海報(bào)新聞首席記者 解強(qiáng)民 記者 孫來(lái)彬 報(bào)道

　　“這些都是AI偽造的我的照片，我已經(jīng)到派出所報(bào)案了。”今年以來(lái)，青島保時(shí)捷中心的銷(xiāo)售冠軍牟倩文深受困擾：有人利用AI（人工智能）技術(shù)，惡意將她的照片生成黃色視頻在網(wǎng)絡(luò)上傳播。在社交平臺(tái)上，牟倩文留下了“清者自清”的無(wú)奈聲明，呼吁網(wǎng)友不造謠，不傳謠。

　　近年來(lái)，隨著AI技術(shù)飛速發(fā)展，普通人駕馭AI工具的門(mén)檻越來(lái)越低，與之相伴的風(fēng)險(xiǎn)則急速上升。AI換臉、AI克隆聲音等侵權(quán)問(wèn)題頻頻發(fā)生。

　　被AI“偷走”面孔、聲音后

　　他們損失了名譽(yù)、金錢(qián)和安全感

　　很長(zhǎng)一段時(shí)間里，牟倩文的名字常跟保時(shí)捷一起出現(xiàn)在熱搜榜單上。2023年、2024年，她連續(xù)兩年賣(mài)出170輛保時(shí)捷汽車(chē)，成為保時(shí)捷中國(guó)北區(qū)銷(xiāo)冠。萬(wàn)萬(wàn)沒(méi)想到，這份靠業(yè)績(jī)賺來(lái)的名氣，卻成了她被造謠的“導(dǎo)火索”。

青島保時(shí)捷中心銷(xiāo)售冠軍牟倩文

　　今年10月，牟倩文發(fā)現(xiàn)網(wǎng)上出現(xiàn)大量由AI惡意合成的黃色視頻，主角都長(zhǎng)著一張她的“臉”。這讓她感到驚恐又憤怒。更過(guò)分的是，還不斷有人通過(guò)私信調(diào)侃她，給她的工作和生活帶來(lái)很大傷害。最終，她選擇了報(bào)警。

　　警方迅速展開(kāi)調(diào)查。10月12日，青島市公安局李滄分局對(duì)涉事男子丁某某作出行政拘留五日的處罰。這已經(jīng)是一年之內(nèi)，牟倩文第二次被此類視頻困擾。連續(xù)被人造“黃謠”，這讓小有名氣的她感到心力交瘁。

　　而網(wǎng)絡(luò)“素人”韋先生也有類似的遭遇。今年5月，南寧市民韋先生收到一條奇怪的短信。短信中有一張“他”裸露上半身與一名裸體女性親昵的視頻截圖，并附有文字：“韋××，這是我最后一次聯(lián)系你了，我也不想你因此事悔恨終身，看到照片速回，過(guò)時(shí)不候！”

南寧市民韋先生收到一條奇怪的短信，短信中有一張“他”裸露上半身與一名裸體女性親昵的視頻截圖 （受訪者供圖）

　　“我當(dāng)時(shí)看到短信，腦子一懵，第一反應(yīng)就是我的信息肯定被泄露了。”意識(shí)到可能是不法分子利用AI合成照片進(jìn)行詐騙，韋先生第一時(shí)間報(bào)了警。

　　牟倩文、韋先生的遭遇并非個(gè)例。海報(bào)新聞?dòng)浾咦⒁獾剑S著AI技術(shù)的進(jìn)步，AI換臉、克隆聲音等侵犯公民名譽(yù)權(quán)和隱私權(quán)的現(xiàn)象時(shí)有發(fā)生。

　　今年年初，山西太原的配音演員武揚(yáng)偶然發(fā)現(xiàn)，自己的聲音被偷偷克隆，用于廣州一家火鍋店的宣傳片配音解說(shuō)。

配音演員武揚(yáng)

　　武揚(yáng)確實(shí)與該火鍋店有過(guò)合作。吊詭的是，他翻遍各種記錄，均顯示雙方合作發(fā)生在去年。那么，眼前這支最新的宣傳片中的“自己的聲音”是從哪兒來(lái)的呢？

　　他找到對(duì)方，很快得到答復(fù)：店家為了節(jié)省成本，直接將此前合作中的武揚(yáng)的聲音“喂”給AI，經(jīng)過(guò)學(xué)習(xí)后，幾乎“零成本”克隆生成了新的宣傳片配音。

　　“我真的非常氣憤。在未確認(rèn)這是AI配音前，我甚至在懷疑自己，這到底是不是我配的音？是不是我自己忘記了？因?yàn)槁曇粽娴奶窳恕！?/p>

　　從發(fā)現(xiàn)這件事到如今已過(guò)去半年，涉事火鍋店雖然刪除了相關(guān)視頻，但雙方始終未就賠償問(wèn)題達(dá)成一致。在此期間，武揚(yáng)又發(fā)現(xiàn)了另外兩條克隆自己聲音的商業(yè)視頻。作為從事配音工作的專業(yè)人員，他感到不寒而栗。

　　目前，武揚(yáng)正在嘗試通過(guò)法律途徑維權(quán)。

　　AI濫用門(mén)檻有多低？

　　記者實(shí)測(cè)：2分鐘時(shí)間就能無(wú)中生有

　　更值得警惕的是，AI工具極低的使用門(mén)檻已擋不住各懷心思的使用者們——不管這心思是非法牟利，還僅僅是好奇。

　　“家中闖入流浪漢，速回！”10月17日晚，安徽一女子用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)給在外聚餐的丈夫，想測(cè)試其反應(yīng)。沒(méi)想到，丈夫信以為真，當(dāng)即報(bào)警求助。民警趕到現(xiàn)場(chǎng)，確認(rèn)是一場(chǎng)虛驚。

　　記者調(diào)查發(fā)現(xiàn)，近期已有多地出現(xiàn)過(guò)因“AI整蠱”引發(fā)的鬧劇，有的引得親屬連夜從外地趕回，有的甚至引發(fā)整棟樓被逐層排查。民警提醒，此類行為若造成嚴(yán)重后果，可能觸犯法律紅線，涉事人員將面臨拘留罰款，嚴(yán)重的需承擔(dān)刑事責(zé)任。

　　曾經(jīng)只出現(xiàn)在科幻片里的AI技術(shù)，如今的使用門(mén)檻到底有多低？海報(bào)新聞?dòng)浾哌M(jìn)行了現(xiàn)場(chǎng)實(shí)測(cè)。

　　以虛擬一段“流浪漢闖入家中”的視頻為測(cè)試目標(biāo)，記者先拍攝了一張自家廚房的照片，將照片上傳到“可靈AI”“即夢(mèng)”等AI軟件中，隨后輸入一段指令性的提示詞：一名流浪漢站在廚房門(mén)口，他的手里拿著一個(gè)饅頭。點(diǎn)擊生成按鈕，十幾秒后，一張流浪漢站在記者家中廚房的照片便出現(xiàn)在眼前。

只需要在AI軟件中輸入一段提示詞，一個(gè)拿著饅頭的“流浪漢”就出現(xiàn)在了廚房門(mén)口（右圖為AI生成畫(huà)面）

　　“照片可以PS，有視頻才有真相。”抱著這樣的想法，記者繼續(xù)嘗試。

　　在生成上述圖片的基礎(chǔ)上，記者繼續(xù)點(diǎn)擊生成視頻按鈕，并加上了描述動(dòng)作的提示詞：流浪漢吃了一口饅頭，走到鏡頭前，笑了笑。幾十秒后，任務(wù)完成，一段時(shí)長(zhǎng)5秒的視頻就這樣生成了：流浪漢非常自然地咬了一口饅頭，往前走了幾步，露出微笑。視頻內(nèi)容與提示詞的要求高度一致，甚至還能看到流浪漢走動(dòng)時(shí)在門(mén)窗玻璃上映出的影子！

　　記者招呼同事們一起來(lái)分辨，幾個(gè)人瞪大眼睛看了半天，也沒(méi)找出明顯的破綻。整個(gè)“圖生圖、圖生視頻”的過(guò)程用時(shí)僅120秒，付費(fèi)用戶還可以下載無(wú)水印的高清圖片和視頻。

　　傳統(tǒng)印象中，想要利用軟件偽造足以亂真的圖片、視頻，少不了高端昂貴的設(shè)備和精通代碼的程序員。然而現(xiàn)實(shí)擺在眼前：下載一個(gè)軟件，輸入一兩句話，就能辦到。

　　業(yè)內(nèi)人士指出，AI生成工具已實(shí)現(xiàn)“單圖換臉”“場(chǎng)景植入”等功能，通過(guò)深度學(xué)習(xí)算法提取面部特征點(diǎn)及環(huán)境元素，可快速完成圖像融合和動(dòng)態(tài)生成。在此背景下，部分平臺(tái)對(duì)訓(xùn)練語(yǔ)料管理不嚴(yán)，且未落實(shí)合成內(nèi)容標(biāo)識(shí)要求，導(dǎo)致大量虛假信息以隱秘方式傳播。

　　用AI“管”AI是否可行？

　　AI治理辦法亟需迭代升級(jí)

　　AI技術(shù)正在重塑生產(chǎn)生活方式。從橫空出世的ChatGPT到無(wú)所不能的深度求索（DeepSeek），短短兩年，人們已迅速習(xí)慣了使用AI工具。然而，迭代升級(jí)的不僅有算法，還有與之相伴的濫用風(fēng)險(xiǎn)。

　　短暫的驚恐和憤怒后，武揚(yáng)現(xiàn)在有了新的擔(dān)憂：以后他們（不法分子）會(huì)不會(huì)用我的聲音給我的家人朋友打電話，甚至去詐騙？

　　有業(yè)內(nèi)人士認(rèn)為，分辨一段視頻或聲音是否是經(jīng)過(guò)深度合成，最好的辦法是用AI“管”AI。

　　人工智能大模型研究員潘季明表示，從技術(shù)角度來(lái)說(shuō)，基于AI技術(shù)去識(shí)別AI內(nèi)容是最快的方式。例如，專門(mén)的深度偽造鑒別模型可用于分析視頻和音頻中的不自然特征，如檢測(cè)眨眼頻率、面部肌肉運(yùn)動(dòng)生理一致性、音頻與純嘴唇同步率、光源一致性等等，從這些細(xì)微的物理或生理破綻中發(fā)現(xiàn)端倪。

　　北京市競(jìng)天公誠(chéng)律師事務(wù)所律師馬盛君指出，由人工智能引發(fā)的致?lián)p事件不斷增加，盡管現(xiàn)有的《民法典》中針對(duì)特定場(chǎng)景的侵權(quán)責(zé)任規(guī)則可以調(diào)整某些人工智能應(yīng)用，但無(wú)法一般性地調(diào)整不同類型的人工智能侵權(quán)行為。他呼吁人工智能服務(wù)提供者，加強(qiáng)內(nèi)容審核和審查工作，確保技術(shù)的合法合規(guī)使用。

　　面對(duì)愈演愈烈的AI濫用和侵權(quán)現(xiàn)象，監(jiān)管層面啟動(dòng)了多重應(yīng)對(duì)措施。2025年4月，中央網(wǎng)信辦開(kāi)展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)。9月1日，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式實(shí)施，其中明確要求服務(wù)提供者對(duì)合成內(nèi)容添加元數(shù)據(jù)標(biāo)識(shí)，杜絕“無(wú)標(biāo)識(shí)傳播”。

　　今年早些時(shí)候，最高法院刑事審判第三庭庭長(zhǎng)陳鴻翔在接受媒體采訪時(shí)表示，針對(duì)AI深度偽造帶來(lái)的新情況新問(wèn)題，最高法將加強(qiáng)研究，會(huì)同相關(guān)部門(mén)及時(shí)出臺(tái)規(guī)范性法律文件或?qū)嵤┘?xì)則，完善法律適用。針對(duì)電信網(wǎng)絡(luò)詐騙犯罪這一AI侵權(quán)的重要表現(xiàn)形式，他指出，詐騙分子利用AI深度偽造新技術(shù)不斷翻新詐騙手法，防范打擊難度越來(lái)越大。對(duì)此，人民法院將積極應(yīng)對(duì)挑戰(zhàn)，強(qiáng)化法律支撐，完善相關(guān)法律規(guī)范。

　　降低技術(shù)門(mén)檻原本是為了方便AI生產(chǎn)工具的普及應(yīng)用，卻在不經(jīng)意間，打開(kāi)了濫用AI的“潘多拉魔盒”。隨著技術(shù)的發(fā)展，AI治理辦法也亟需一次迭代升級(jí)。