廣告·點(diǎn)擊上方圖片查看詳情

?點(diǎn)開(kāi)直播間乍一看，賣貨的竟是當(dāng)紅女星。再定睛一看，“明星”其實(shí)是使用人工智能（AI）實(shí)時(shí)換臉技術(shù)的普通主播。他們冒充明星藝人，只為增加賣點(diǎn)，助力賣貨……

(資料圖)

近期，“AI換臉”的應(yīng)用范圍越來(lái)越廣，但存在濫用之嫌，甚至有人利用AI換臉實(shí)施犯罪，例如偽造不雅視頻、換臉詐騙等。前不久，就有一男子因AI“偷臉”，10分鐘被騙430萬(wàn)元。

如此以假亂真，讓人防不勝防。“AI換臉”的法律邊界在哪？普通人又該如何防范？

01

公司老板遭遇AI換臉詐騙

10分鐘被騙取430萬(wàn)元

近日，內(nèi)蒙古包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。

來(lái)自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過(guò)微信視頻聯(lián)系他，稱自己的朋友在外地競(jìng)標(biāo)，需要430萬(wàn)元保證金，想借用郭先生公司的賬戶走賬。

基于對(duì)好友的信任，加上已經(jīng)視頻聊天“核實(shí)”了身份，郭先生在10分鐘內(nèi)，先后分兩筆把430萬(wàn)元轉(zhuǎn)到了對(duì)方的銀行賬戶上。

事后，郭先生撥打好友電話才得知被騙，原來(lái)騙子通過(guò)AI換臉和擬聲技術(shù)，佯裝好友對(duì)其實(shí)施詐騙。“當(dāng)時(shí)是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備。”郭先生事后說(shuō)。

02

AI換臉冒充明星帶貨

律師：或涉嫌侵權(quán)

除了佯裝“熟人臉”實(shí)施詐騙，AI換臉還可能出現(xiàn)在直播帶貨中。最近，網(wǎng)上出現(xiàn)了一些“換臉直播”教程，教程發(fā)布者聲稱實(shí)時(shí)變臉軟件可以幫助用戶輕松“變臉”，極大地助力引流賣貨。

在一個(gè)展示換臉直播效果的視頻中，使用者把名為“成龍”的模型載入相關(guān)軟件后，攝像頭前的人在直播畫(huà)面中就有了與成龍相似的五官，但臉型和發(fā)型還保持原樣。

記者發(fā)現(xiàn)，使用者歪頭或變換表情時(shí)，五官動(dòng)效切換得自然順滑，只有手掌從臉前劃過(guò)時(shí)，出現(xiàn)了比較明顯的破綻。

發(fā)布者展示換臉為“成龍”的實(shí)時(shí)效果和軟件界面（視頻截圖）

北京岳成律師事務(wù)所高級(jí)合伙人岳屾山表示，換臉直播用于公開(kāi)傳播可能涉嫌侵犯相關(guān)明星藝人的肖像權(quán)。如果涉及直播帶貨等商業(yè)行為，會(huì)成為加重情節(jié)。

岳屾山解釋，只要未經(jīng)肖像權(quán)人同意，在直播中通過(guò)技術(shù)手段把自己的臉換成了明星的臉，就是對(duì)明星肖像的侵權(quán)。根據(jù)不同情況，承擔(dān)的后果可能不同。即便只是娛樂(lè)，不涉及盈利行為，也屬于侵權(quán)。如果把明星肖像用于帶貨直播，屬于是商業(yè)行為，在賠償數(shù)額上一定會(huì)給予考慮。如果主觀惡性、過(guò)錯(cuò)程度比較大，且因此獲利，賠償數(shù)額可能會(huì)更高。

記者注意到，一些使用換臉技術(shù)的直播并不會(huì)直接提到相關(guān)明星藝人的名字，但也不會(huì)主動(dòng)聲明或者否認(rèn)。岳屾山認(rèn)為，該行為涉嫌欺詐或是虛假宣傳，讓公眾誤以為就是明星在帶貨。如果貨品本身質(zhì)量不好，或者主播在帶貨過(guò)程中說(shuō)的話或行為導(dǎo)致公眾對(duì)被換臉的明星產(chǎn)生負(fù)面評(píng)價(jià)，明星可以主張名譽(yù)權(quán)的侵權(quán)責(zé)任。

03

AI技術(shù)存在濫用風(fēng)險(xiǎn)

務(wù)必保持防范意識(shí)

為規(guī)范人工智能發(fā)展，去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式發(fā)布，明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到：深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。

近期，也有平臺(tái)和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

對(duì)于個(gè)人而言，除了在形形色色的“明星臉”中保持清醒，避免陷入虛假宣傳，更重要的是面對(duì)花樣翻新的AI詐騙，必須保持防范意識(shí)。

保護(hù)信息，提高警惕。不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息，不要輕易提供人臉、指紋等個(gè)人生物信息給他人，不過(guò)度公開(kāi)或分享動(dòng)圖、視頻等；

多重驗(yàn)證，確認(rèn)身份。如果有人自稱“熟人”“領(lǐng)導(dǎo)”等通過(guò)社交軟件、短信以各種理由誘導(dǎo)匯款，或涉及網(wǎng)絡(luò)轉(zhuǎn)賬交易行為時(shí)，務(wù)必通過(guò)電話、見(jiàn)面等多途徑核驗(yàn)對(duì)方身份，不要未經(jīng)核實(shí)隨意轉(zhuǎn)賬匯款；

如不慎被騙或遇可疑情形，請(qǐng)注意保護(hù)證據(jù)，并立即撥打96110報(bào)警。

04

整治AI換臉

要用法打敗“魔法”

“短短10分鐘，被騙430萬(wàn)元”“換臉冒充當(dāng)紅女星帶貨，賺得盆滿缽溢”……這種“換臉”術(shù)和擬聲術(shù)，讓人防不勝防。如此種種，無(wú)不說(shuō)明換臉術(shù)的濫用，已經(jīng)對(duì)公共利益構(gòu)成威脅。

整治AI換臉，當(dāng)用“法”打敗“魔法”。

這個(gè)法，是方法、辦法的法。有人說(shuō)，防騙最有效的一招就是不信，無(wú)論對(duì)方怎么“換”、怎么變、怎么翻著花樣騙，就是“不聽(tīng)不信不轉(zhuǎn)賬”。最關(guān)鍵的是，優(yōu)化“打法”，升級(jí)高招，用更有效的方法“破防”?！澳Ц咭怀?，道高一丈”，面對(duì)騙子的新招數(shù)，我們的反詐術(shù)、防騙方法更要優(yōu)化，總結(jié)出富有成效的好方法，并做好宣傳普及，構(gòu)筑反詐防騙的全民陣線。

這個(gè)法，也是法規(guī)、法律的法。此前，一款主打AI換臉的App很火，“只需一張照片，演遍天下好戲”。但很快，在監(jiān)管部門約談后，這款A(yù)pp下架，原因很簡(jiǎn)單，如此換臉侵犯了公民的肖像權(quán)。去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，對(duì)人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。顯然，隨著制度設(shè)計(jì)更精準(zhǔn)，相關(guān)立法更健全，AI換臉空間將越來(lái)越逼仄。

AI換臉術(shù)濫用，也促使大家思考一個(gè)深層次問(wèn)題。新技術(shù)不斷面世，帶給了人們便利，但可能被居心叵測(cè)之徒非法利用。人們固然不能因噎廢食，但也不能忽略它的雙刃劍效應(yīng)。如果缺乏應(yīng)有規(guī)束，AI換臉則可能打開(kāi)潘多拉魔盒。因勢(shì)利導(dǎo)，使其趨利避害，這是我們要全力做到的。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)提醒

今年以來(lái)，ChatGPT和GPT-4等技術(shù)的應(yīng)用，成為了信息科技領(lǐng)域的熱點(diǎn)，引起公眾對(duì)AI技術(shù)的廣泛關(guān)注。5月24日，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布公告，面對(duì)利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)表示，伴隨著深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為屢見(jiàn)不鮮。

近期，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙的案件。不法分子利用AI技術(shù)，通過(guò)聲音合成，偽造成特定人物的聲音，通過(guò)AI換臉，偽裝成特定人物，實(shí)時(shí)與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實(shí)施詐騙。

因此，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)提示，要做好個(gè)人信息安全第一責(zé)任人。加強(qiáng)個(gè)人信息保護(hù)意識(shí)，防止信息泄露，不輕易提供人臉、指紋等個(gè)人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放于手機(jī)內(nèi)。

其次，陌生鏈接不要點(diǎn)、陌生軟件不要下載、陌生好友不要隨便加、不明二維碼不要隨便掃。管理好自己的朋友圈，不要向陌生人開(kāi)啟手機(jī)屏幕共享。

同時(shí)，做好個(gè)人防護(hù)，安裝安全軟件，防止手機(jī)和電腦中病毒；對(duì)個(gè)人賬戶的安全狀況保持警惕，尤其是陌生設(shè)備的登錄情況，防止微信、QQ等被盜號(hào)給親朋好友帶來(lái)麻煩。對(duì)于不常用的APP，建議卸載前注銷個(gè)人賬號(hào)。

此外，遠(yuǎn)程轉(zhuǎn)賬務(wù)必多重驗(yàn)證，把好“錢袋子”。如果有人自稱“家人”“朋友”“老師”“領(lǐng)導(dǎo)”通過(guò)社交軟件、短信、電子郵件等以“手機(jī)掉水里了，學(xué)校需要緊急交輔導(dǎo)班學(xué)費(fèi)”“人在境外旅游需要幫忙買機(jī)票”“給領(lǐng)導(dǎo)辦私事需緊急轉(zhuǎn)賬”“遭遇車禍需要馬上手術(shù)”“情況特殊，需要過(guò)橋資金拆借”等各種方式和理由誘導(dǎo)你轉(zhuǎn)賬匯款，務(wù)必第一時(shí)間提高警惕。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)表示，在AI時(shí)代，文字、聲音、圖像和視頻都有可能是深度合成的，在轉(zhuǎn)賬匯款、資金往來(lái)這樣的典型場(chǎng)景，要通過(guò)回?fù)軐?duì)方手機(jī)號(hào)等額外通信方式核實(shí)確認(rèn)，不要僅憑單一溝通渠道未經(jīng)核實(shí)就直接轉(zhuǎn)賬匯款，無(wú)論對(duì)方是誰(shuí)。

（來(lái)源：央視新聞、中國(guó)之聲、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)）

標(biāo)簽：