|
|
樓主 發(fā)表于: 前天 10:19
, 來自:江蘇省0==
關于AI的冷思考之三
母親掉入AI詐騙的陷阱，是胡易辰近期最大的煩惱,。
一次偶然的機會,，他發(fā)現(xiàn)母親大量網(wǎng)購了一種“包治糖尿病”的保健品，花費了上萬元,。然而該商品的成分僅是一些簡單的中藥,，甚至沒有生產(chǎn)批號和使用說明。
但母親卻堅持認為該藥有效,，并向他展示了某平臺直播間的視頻：一位自稱行醫(yī)多年的老中醫(yī)在實驗室里介紹療效,，還有消費者接受采訪。
胡易辰看了一眼就察覺不對：視頻中“人”的頸部,、手部細節(jié)經(jīng)常出現(xiàn)扭曲,，語音和口型對不上，“很明顯是AI換臉”,。
但母親不以為然,，堅持認為“眼見為實”，直到胡易辰帶母親去了正規(guī)醫(yī)院求證,，被醫(yī)生告知該保健品無法根治糖尿病后,，才勉強相信,。
社交平臺截圖
“手機不停地給她推薦AI生成的虛假內容。比如,，有的AI視頻里面,，小狗會買菜會做飯，我媽經(jīng)常發(fā)給我,，跟我說‘咱們也養(yǎng)一只吧’,。”
AI 詐騙，隨處可見
相比于AI幻覺,，程序開發(fā)人員小路認為，AI造假更值得警惕,，“它是人為利用AI生成虛假內容甚至欺詐的行為,。”
事實上,，AI換臉,、變聲等詐騙事件已經(jīng)屢見不鮮：直播間里，AI換臉“偽造院士”兜售假大米,、智能剪輯炮制抗癌神藥“逆天療效”,，算法精準推送“根治高血壓”騙局……
2022年至2024年初，中國共發(fā)生“AI 換臉”類詐騙案近百起,，累計給人民群眾造成經(jīng)濟損失高達2億元,。
AI的偽造技術，同樣困擾著在人民法院工作的法官張一涵,。最近她負責的一起勞動訴訟案件中,，勞動者提供的證據(jù)就被懷疑“有AI造假的可能”。
“這是一段用人單位管理者的錄音,，錄音內容是關于強制加班并拒絕支付加班費的,。但用人單位表示，該管理者并未發(fā)表過類似言論,，勞動者提供的錄音‘是由AI合成的’,。”張一涵說,。
圖源：視覺中國
“這段錄音在人聽來完全沒有任何問題,。不僅語音語調正常，也能聽出來其中的憤怒,、激動等情緒,。”張一涵說,，“目前的法律法規(guī)尚未明確規(guī)定 AI 生成證據(jù)的性質,、效力和認定標準,，這使得在判斷 AI 偽造證據(jù)的合法性時，缺乏明確的法律依據(jù),�,！�
大數(shù)據(jù)時代，大量數(shù)據(jù)為AI提供了廣泛豐富的學習素材,，同樣也成為了不法分子利用AI為所欲為的幫兇,。
在執(zhí)業(yè)律師楊鑫看來，AI之所以被人用來“偷”和“騙”,，源自目前互聯(lián)網(wǎng)個人隱私信息保護的諸多漏洞,。“大數(shù)據(jù)時代，我們每個人的信息都或多或少地暴露在互聯(lián)網(wǎng)上,�,！�
比如，一張居家照片,，可能暴露居住的小區(qū),、樓層；一段旅行照片,，就能透露出航班信息或者車次信息,，甚至是下榻酒店；一段語音,，就可以被當作學習的材料,，從而被輕而易舉地模仿……
“AI的強大在于，能夠快速處理和分析大量數(shù)據(jù),�,！毙÷方榻B道，不止如此,，AI還可以建立‘用戶畫像’,，預測他們可能感興趣的詐騙類型和容易上當受騙的場景。例如,，對于喜歡投資的用戶,，詐騙分子可能會利用 AI 生成虛假的投資平臺和誘人的投資回報信息，吸引他們投入資金,。
從社交媒體到電商網(wǎng)站,，從智能手機到智能居家設備，“幾乎所有與人們生活相關的數(shù)字產(chǎn)品和服務,，都在收集個人數(shù)據(jù),，包括基本信息、地理位置,、瀏覽記錄,，消費習慣……對此,，用戶很難察覺，也難以制止,。
而在AI快速發(fā)展的時代,，數(shù)據(jù)共享和流轉形式也越來越復雜。
據(jù)國內一家互聯(lián)網(wǎng)公司大數(shù)據(jù)中心業(yè)務內容負責人張洋介紹,，企業(yè)間的數(shù)據(jù)共享非常頻繁,。廣告商、電商平臺和數(shù)據(jù)服務提供商之間會共享用戶數(shù)據(jù),，以實現(xiàn)精準廣告投放和個性化推薦功能,。
“企業(yè)間的數(shù)據(jù)共享往往缺乏有效的監(jiān)管和規(guī)范，用戶數(shù)據(jù)不斷流轉,，增加了隱私泄露的風險,。”楊鑫說,。
而據(jù)法官張一涵介紹,，AI偽造的圖像和聲音在細節(jié)上與真實內容難以區(qū)分,，現(xiàn)有的檢測技術可能存在較高的誤判率和漏判率,。“不僅針對AI換臉,、變聲的法律法規(guī)少,，侵權認定、責任追究不夠具體,，在法律適用層面也有爭議,。不同法律之間的銜接、協(xié)調可能導致法律適用存在不確定性,�,！�
胡易辰現(xiàn)在要求母親把看到的視頻都給自己“審查”一遍,，由他來判定真假,，但他自己也清楚，這不是長久之計,。
針對AI引發(fā)的種種問題,，幾位受訪者都認為，目前對AI的相關約束還不夠,。
律師楊鑫認為,，構建AI應用的法律體系，應當成為制度保障,�,！斑@是一個復雜的問題,，但我認為應該在現(xiàn)有法律制度基礎上搭建針對 AI 處理信息的合理范圍、相關主體的法律責任和義務,、增加對AI制造傳播虛假信息的處罰,、定罪、量刑等相應針對性條款,�,！�
“對于企業(yè)和平臺,，也需要構建獎懲機制�,！蹦称脚_負責人張洋表示,，在技術開發(fā)和應用推廣方面注重個人信息保護的企業(yè)，應當給予政策支持和獎勵,，對于違規(guī)企業(yè)設立嚴厲的處罰措施,。
不過，網(wǎng)絡信息平臺面臨著技術能力,、投入成本方面的諸多限制,。對于平臺而言，如何既保障其合法權益,，又確保其履行監(jiān)管責任,，張洋認為目前還沒有“兩全”的辦法。“平臺是否應當承擔事先審查的義務,？在什么樣的情況下需要對內容進行下架處理,？需要有一套標準參照�,！�
法官張一涵認為,，在涉及AI換臉變聲的網(wǎng)絡侵權案件時，不同部門也應當建立起一套暢通的協(xié)調機制,，不再是各自為政,，而是密切合作，以解決信息共享不及時,、工作銜接不到位的問題,。
除了對AI的約束，AI時代到來,，人們對待個人信息的態(tài)度和方式也要扭轉,。以往“隨拍隨寫隨發(fā)”的個人信息發(fā)布模式，需要多一份謹慎。
楊鑫說,，大數(shù)據(jù)時代,，每個人都要提高對個人信息的保護意識。使用互聯(lián)網(wǎng)產(chǎn)品和服務的時候,，“繃緊一根弦”,，不輕易相信來源不明的消息。在社交媒體平臺上,，避免透露個人的生活細節(jié),、行蹤信息等等，拒絕APP不必要的數(shù)據(jù)收集請求,，定期查看和刪除不再需要或者可能存在風險的數(shù)據(jù),。
開發(fā)者小路認為，AI技術同樣引發(fā)了一系列的道德問題,。如何在技術發(fā)展和道德約束之間找到平衡,，全社會還沒有形成廣泛的共識。“怎樣界定技術濫用行為的道德邊界,？不同的人有不同的看法,，我們需要一個平臺，公開廣泛地討論,�,！�
|
