|
|
樓主 發(fā)表于: 前天 10:19
, 來自:江蘇省0==
關(guān)于AI的冷思考之三
母親掉入AI詐騙的陷阱,，是胡易辰近期最大的煩惱。
一次偶然的機(jī)會(huì),，他發(fā)現(xiàn)母親大量網(wǎng)購了一種“包治糖尿病”的保健品,，花費(fèi)了上萬元。然而該商品的成分僅是一些簡單的中藥,，甚至沒有生產(chǎn)批號(hào)和使用說明,。
但母親卻堅(jiān)持認(rèn)為該藥有效，并向他展示了某平臺(tái)直播間的視頻：一位自稱行醫(yī)多年的老中醫(yī)在實(shí)驗(yàn)室里介紹療效,，還有消費(fèi)者接受采訪,。
胡易辰看了一眼就察覺不對(duì)：視頻中“人”的頸部、手部細(xì)節(jié)經(jīng)常出現(xiàn)扭曲,，語音和口型對(duì)不上,，“很明顯是AI換臉”。
但母親不以為然,，堅(jiān)持認(rèn)為“眼見為實(shí)”,，直到胡易辰帶母親去了正規(guī)醫(yī)院求證，被醫(yī)生告知該保健品無法根治糖尿病后,，才勉強(qiáng)相信,。
社交平臺(tái)截圖
“手機(jī)不停地給她推薦AI生成的虛假內(nèi)容。比如,，有的AI視頻里面,，小狗會(huì)買菜會(huì)做飯，我媽經(jīng)常發(fā)給我,，跟我說‘咱們也養(yǎng)一只吧’。”
AI 詐騙，隨處可見
相比于AI幻覺,，程序開發(fā)人員小路認(rèn)為,，AI造假更值得警惕，“它是人為利用AI生成虛假內(nèi)容甚至欺詐的行為,�,！�
事實(shí)上，AI換臉,、變聲等詐騙事件已經(jīng)屢見不鮮：直播間里,，AI換臉“偽造院士”兜售假大米、智能剪輯炮制抗癌神藥“逆天療效”,，算法精準(zhǔn)推送“根治高血壓”騙局……
2022年至2024年初,，中國共發(fā)生“AI 換臉”類詐騙案近百起，累計(jì)給人民群眾造成經(jīng)濟(jì)損失高達(dá)2億元,。
AI的偽造技術(shù),，同樣困擾著在人民法院工作的法官張一涵。最近她負(fù)責(zé)的一起勞動(dòng)訴訟案件中,，勞動(dòng)者提供的證據(jù)就被懷疑“有AI造假的可能”,。
“這是一段用人單位管理者的錄音，錄音內(nèi)容是關(guān)于強(qiáng)制加班并拒絕支付加班費(fèi)的,。但用人單位表示,，該管理者并未發(fā)表過類似言論，勞動(dòng)者提供的錄音‘是由AI合成的’,�,！睆堃缓f。
圖源：視覺中國
“這段錄音在人聽來完全沒有任何問題,。不僅語音語調(diào)正常,，也能聽出來其中的憤怒、激動(dòng)等情緒,�,！睆堃缓f，“目前的法律法規(guī)尚未明確規(guī)定 AI 生成證據(jù)的性質(zhì),、效力和認(rèn)定標(biāo)準(zhǔn),，這使得在判斷 AI 偽造證據(jù)的合法性時(shí)，缺乏明確的法律依據(jù),�,！�
大數(shù)據(jù)時(shí)代，大量數(shù)據(jù)為AI提供了廣泛豐富的學(xué)習(xí)素材,，同樣也成為了不法分子利用AI為所欲為的幫兇,。
在執(zhí)業(yè)律師楊鑫看來,，AI之所以被人用來“偷”和“騙”，源自目前互聯(lián)網(wǎng)個(gè)人隱私信息保護(hù)的諸多漏洞,。“大數(shù)據(jù)時(shí)代,，我們每個(gè)人的信息都或多或少地暴露在互聯(lián)網(wǎng)上�,！�
比如,，一張居家照片，可能暴露居住的小區(qū),、樓層,；一段旅行照片，就能透露出航班信息或者車次信息,，甚至是下榻酒店,；一段語音，就可以被當(dāng)作學(xué)習(xí)的材料,，從而被輕而易舉地模仿……
“AI的強(qiáng)大在于,，能夠快速處理和分析大量數(shù)據(jù)�,！毙÷方榻B道,，不止如此，AI還可以建立‘用戶畫像’,，預(yù)測他們可能感興趣的詐騙類型和容易上當(dāng)受騙的場景,。例如，對(duì)于喜歡投資的用戶,，詐騙分子可能會(huì)利用 AI 生成虛假的投資平臺(tái)和誘人的投資回報(bào)信息,，吸引他們投入資金。
從社交媒體到電商網(wǎng)站,，從智能手機(jī)到智能居家設(shè)備,，“幾乎所有與人們生活相關(guān)的數(shù)字產(chǎn)品和服務(wù)，都在收集個(gè)人數(shù)據(jù),，包括基本信息,、地理位置、瀏覽記錄,，消費(fèi)習(xí)慣……對(duì)此,，用戶很難察覺，也難以制止,。
而在AI快速發(fā)展的時(shí)代,，數(shù)據(jù)共享和流轉(zhuǎn)形式也越來越復(fù)雜。
據(jù)國內(nèi)一家互聯(lián)網(wǎng)公司大數(shù)據(jù)中心業(yè)務(wù)內(nèi)容負(fù)責(zé)人張洋介紹,，企業(yè)間的數(shù)據(jù)共享非常頻繁,。廣告商,、電商平臺(tái)和數(shù)據(jù)服務(wù)提供商之間會(huì)共享用戶數(shù)據(jù)，以實(shí)現(xiàn)精準(zhǔn)廣告投放和個(gè)性化推薦功能,。
“企業(yè)間的數(shù)據(jù)共享往往缺乏有效的監(jiān)管和規(guī)范,，用戶數(shù)據(jù)不斷流轉(zhuǎn),，增加了隱私泄露的風(fēng)險(xiǎn),。”楊鑫說,。
而據(jù)法官張一涵介紹,，AI偽造的圖像和聲音在細(xì)節(jié)上與真實(shí)內(nèi)容難以區(qū)分，現(xiàn)有的檢測技術(shù)可能存在較高的誤判率和漏判率,�,！安粌H針對(duì)AI換臉、變聲的法律法規(guī)少,，侵權(quán)認(rèn)定,、責(zé)任追究不夠具體，在法律適用層面也有爭議,。不同法律之間的銜接,、協(xié)調(diào)可能導(dǎo)致法律適用存在不確定性�,！�
胡易辰現(xiàn)在要求母親把看到的視頻都給自己“審查”一遍，由他來判定真假,，但他自己也清楚,，這不是長久之計(jì)。
針對(duì)AI引發(fā)的種種問題,，幾位受訪者都認(rèn)為,，目前對(duì)AI的相關(guān)約束還不夠。
律師楊鑫認(rèn)為,，構(gòu)建AI應(yīng)用的法律體系,，應(yīng)當(dāng)成為制度保障�,！斑@是一個(gè)復(fù)雜的問題,，但我認(rèn)為應(yīng)該在現(xiàn)有法律制度基礎(chǔ)上搭建針對(duì) AI 處理信息的合理范圍、相關(guān)主體的法律責(zé)任和義務(wù),、增加對(duì)AI制造傳播虛假信息的處罰,、定罪、量刑等相應(yīng)針對(duì)性條款,�,！�
除了制度保障外,，對(duì)于參與者的約束同樣重要。
“對(duì)于企業(yè)和平臺(tái),，也需要構(gòu)建獎(jiǎng)懲機(jī)制,。”某平臺(tái)負(fù)責(zé)人張洋表示,，在技術(shù)開發(fā)和應(yīng)用推廣方面注重個(gè)人信息保護(hù)的企業(yè),，應(yīng)當(dāng)給予政策支持和獎(jiǎng)勵(lì)，對(duì)于違規(guī)企業(yè)設(shè)立嚴(yán)厲的處罰措施,。
不過,，網(wǎng)絡(luò)信息平臺(tái)面臨著技術(shù)能力、投入成本方面的諸多限制,。對(duì)于平臺(tái)而言,，如何既保障其合法權(quán)益，又確保其履行監(jiān)管責(zé)任,，張洋認(rèn)為目前還沒有“兩全”的辦法,。“平臺(tái)是否應(yīng)當(dāng)承擔(dān)事先審查的義務(wù)？在什么樣的情況下需要對(duì)內(nèi)容進(jìn)行下架處理,？需要有一套標(biāo)準(zhǔn)參照,。”
法官張一涵認(rèn)為,，在涉及AI換臉變聲的網(wǎng)絡(luò)侵權(quán)案件時(shí),，不同部門也應(yīng)當(dāng)建立起一套暢通的協(xié)調(diào)機(jī)制，不再是各自為政,，而是密切合作,，以解決信息共享不及時(shí)、工作銜接不到位的問題,。
除了對(duì)AI的約束,，AI時(shí)代到來，人們對(duì)待個(gè)人信息的態(tài)度和方式也要扭轉(zhuǎn),。以往“隨拍隨寫隨發(fā)”的個(gè)人信息發(fā)布模式,，需要多一份謹(jǐn)慎。
楊鑫說,，大數(shù)據(jù)時(shí)代,，每個(gè)人都要提高對(duì)個(gè)人信息的保護(hù)意識(shí)。使用互聯(lián)網(wǎng)產(chǎn)品和服務(wù)的時(shí)候,，“繃緊一根弦”,，不輕易相信來源不明的消息。在社交媒體平臺(tái)上,，避免透露個(gè)人的生活細(xì)節(jié),、行蹤信息等等,，拒絕APP不必要的數(shù)據(jù)收集請求，定期查看和刪除不再需要或者可能存在風(fēng)險(xiǎn)的數(shù)據(jù),。
開發(fā)者小路認(rèn)為,，AI技術(shù)同樣引發(fā)了一系列的道德問題。如何在技術(shù)發(fā)展和道德約束之間找到平衡,，全社會(huì)還沒有形成廣泛的共識(shí),。“怎樣界定技術(shù)濫用行為的道德邊界？不同的人有不同的看法,，我們需要一個(gè)平臺(tái),，公開廣泛地討論,�,！�
|
