| 轉(zhuǎn)自：中國科協(xié) 2024 年 12 月初，網(wǎng)絡(luò)上出現(xiàn)了一段帶貨視頻，在視頻中賣力地推銷某食品的居然是國家傳染病醫(yī)學(xué)中心主任、復(fù)旦大學(xué)附屬華山醫(yī)院感染科主任張文宏醫(yī)生。 不少網(wǎng)友出于對張文宏醫(yī)生的信任，不僅自己購買，還積極地把視頻轉(zhuǎn)發(fā)到家族群。然而，張文宏醫(yī)生本人很快對此做出了澄清：該視頻非其本人錄制，應(yīng)該是用 AI 偽造的。
網(wǎng)絡(luò)截圖 近年來，隨著人工智能技術(shù)的迅猛發(fā)展，此類 AI 偽造視頻事件頻頻曝光。不法分子利用 AI 技術(shù)，假冒名人身份進(jìn)行詐騙、發(fā)布虛假廣告，甚至通過偽造視頻騙取巨額財產(chǎn)，嚴(yán)重威脅社會信任體系和信息安全。 今天，我們從技術(shù)角度來剖析一下此類事件。 AI 偽造視頻的技術(shù)： 從生存對抗網(wǎng)絡(luò)到 Deepfake 這類 AI 偽造視頻所用的技術(shù)并不是最近才出現(xiàn)的，上世紀(jì)九十年代學(xué)術(shù)界就開始了面部替換和圖像生成相關(guān)技術(shù)的研究。2014 年，伊恩·古德費(fèi)洛（Ian Goodfellow）提出了生成對抗網(wǎng)絡(luò)（GAN，Generative Adversarial Network），使得計(jì)算機(jī)可以生成更為逼真且高質(zhì)量的圖像。 生成對抗網(wǎng)絡(luò)由生成器（Generator）和判別器（Discriminator）兩部分組成。生成器創(chuàng)建內(nèi)容，而判別器則檢測所創(chuàng)建的內(nèi)容是不是真實(shí)的，并將結(jié)果反饋給生成器。在訓(xùn)練過程中，兩者一攻一守，相互對抗，并在對抗中提升各自的能力，最終生成器能夠生成非常逼真的畫面。 2017 年，有人在網(wǎng)絡(luò)社區(qū) Reddit 上創(chuàng)建了一個名為“deepfakes”的賬號，并發(fā)布了一些用生成對抗網(wǎng)絡(luò)技術(shù)制作的名人換臉視頻。從此，“Deepfake”一詞開始被廣泛使用，通常是指代這類換臉視頻所用的技術(shù)。 2018 年 1 月，一款名為 FakeApp 的桌面應(yīng)用程序發(fā)布。緊接著，F(xiàn)aceswap、DeepFaceLab 等具有類似功能的開源工具出現(xiàn)了。這些工具大大降低了 Deepfake 的門檻，使不具備專業(yè)知識的普通用戶也能輕松生成換臉視頻。 隨著相關(guān)技術(shù)不斷進(jìn)步，今天的 Deepfake 和之前相比，不僅生成的視頻分辨率更高、面部表情同步更自然，而且所需的數(shù)據(jù)更少、訓(xùn)練時間更短。早期 Deepfake 訓(xùn)練往往需要數(shù)百到上千張目標(biāo)人物的圖片或數(shù)分鐘至數(shù)小時的視頻，以獲取不同角度、不同表情的臉部特征。但隨著生成對抗網(wǎng)絡(luò)技術(shù)本身的發(fā)展，遷移學(xué)習(xí)（Transfer Learning）、小樣本學(xué)習(xí)（Few-Shot Learning）等技術(shù)的出現(xiàn)，現(xiàn)在僅需要幾十張甚至單張照片就可以生成 Deepfake 視頻。
圖庫版權(quán)圖片，轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛 另外，早期 Deepfake 只能生成畫面，現(xiàn)在結(jié)合聲音克隆（Voice Cloning）、語音風(fēng)格遷移（Voice Style Transfer）等技術(shù)，還可以生成以假亂真的目標(biāo)人物聲音，并且可以令視頻中的嘴部動作和聲音一致。 簡單來說，現(xiàn)在只需要有一張照片，幾秒鐘的語音，就可以生成 Deepfake 視頻。當(dāng)然，如果有更多照片和更長的語音，生成的視頻也會更逼真。 Deepfake 技術(shù)的 正面應(yīng)用和負(fù)面影響 Deepfake 雖然是“偽造”，但在獲得被“偽造”者許可的情況下，可以有很多正面的應(yīng)用。例如，2019 年，英國足球明星大衛(wèi)·貝克漢姆發(fā)布了一段呼吁消滅瘧疾的視頻。在視頻中，他使用了包括斯瓦希里語和約魯巴語等在內(nèi)的 9 種語言。而除了英語之外，其余 8 種語言都是用 Deepfake 技術(shù)生成的。 此外，Deepfake 所使用的各類技術(shù)在數(shù)字人等領(lǐng)域也有廣泛應(yīng)用，在視頻主播、影視制作、教育和培訓(xùn)、心理治療康復(fù)等領(lǐng)域都能發(fā)揮積極的作用。 但任何技術(shù)都可能被用在不好的地方。在前面提到的假張文宏之前，已經(jīng)出現(xiàn)過假靳東、假馬云、假雷軍、假于東來等。假冒名人賣貨不是最糟糕的，Deepfake 類技術(shù)還被用在很多更惡劣的地方，例如詐騙。 2024 年 12 月 20 日，BBC 報道了一則《愛情騙子利用 Deepfake 從我這里騙走 1.7 萬英鎊》的故事。受害人是 77 歲的尼基·麥克勞德（Nikki MacLeod）。騙子告訴她，自己在一座石油鉆井平臺上工作，并要求 Nikki 購買 Steam 禮品卡以及通過 Paypal 轉(zhuǎn)賬等方式提供金錢，以便在鉆井平臺上獲得互聯(lián)網(wǎng)連接，以及支付到蘇格蘭來見她的旅行費(fèi)用。Nikki 最初持懷疑態(tài)度，但看到對方發(fā)來的鉆井平臺上的視頻后就相信了。 2024 年 1 月，某香港公司的一名員工從公司賬戶轉(zhuǎn)了 2500 萬美元給詐騙者。騙子以首席財務(wù)官的名義和他進(jìn)行了視頻通話，要求他執(zhí)行這筆轉(zhuǎn)賬。在視頻通話中，該員工不僅看到了首席財務(wù)官“本人”，甚至還看到了其它“同事”。 據(jù)著名會計(jì)師事務(wù)所德勤 2024 年 5 月發(fā)布的一份報告，2023 年美國的 Deepfake 欺詐增加了 700%，造成了 123 億美元的損失，并且這一數(shù)字在 2027 年可能會達(dá)到 400 億美元。
圖庫版權(quán)圖片，轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛 除了詐騙之外，Deepfake 技術(shù)可以還被用來騙過人臉識別。很多移動應(yīng)用會使用人臉識別來驗(yàn)證用戶身份。為防止用照片假冒人臉，現(xiàn)在的人臉識別技術(shù)通常都會進(jìn)行活體檢測，類似 3D 結(jié)構(gòu)光等活體識別技術(shù)需要特殊硬件，但只有部分手機(jī)支持。 目前，很多場合使用的還是基于手機(jī)前置攝像頭的 2D 人臉識別。而 2D 人臉識別的活體檢測主要是要求用戶做出眨眼、點(diǎn)頭等動作，以及用屏幕閃爍特定顏色的光線。于是就有人使用 Deepfake 技術(shù)結(jié)合一些其它的手段，來騙過人臉識別，從而盜取網(wǎng)絡(luò)賬號。 如何識別和檢測 Deepfake 視頻？ 制作不夠精良的 Deepfake 視頻用肉眼就可看出異常。例如，人物的面部表情或眼神不自然，眨眼的次數(shù)過少，面部邊緣模糊，或者與背景的過渡不自然，人臉的光影效果與周圍環(huán)境的光線情況不符等。但是，隨著 Deepfake 技術(shù)的進(jìn)步，這些異常特征也越來越少。 目前已知的 Deepfake 技術(shù)能仿冒人臉做出的表情，但還不能仿冒人臉在受到外部壓力時產(chǎn)生的變形。所以，在視頻通話時，如果懷疑遭到了 Deepfake 欺詐，可以要求對方用食指按壓一側(cè)的鼻翼，或按壓一側(cè)的臉頰。 除了肉眼分辨，用 AI 來識別 AI 生成的內(nèi)容也是熱門的研究方向。例如合成視頻可能在幀與幀之間存在不連續(xù)性，進(jìn)行時序一致性分析就可能發(fā)現(xiàn)異常。另外，人的心臟跳動會導(dǎo)致皮膚出現(xiàn)和脈搏節(jié)律一致的細(xì)微色彩變化，通過這種色彩變化可以獲取脈搏信息，而 Deepfake 的視頻可能沒有這種特征。 但我們也要意識到，Deepfake 使用的生成式對抗網(wǎng)絡(luò)技術(shù)本來就是由生成器和判別器兩部分組成，任何一種檢測 Deepfake 的技術(shù)手段也都可以納入到 Deepfake 的判別器中，從而生成該技術(shù)難以檢測的偽造內(nèi)容。
圖庫版權(quán)圖片，轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛 近年來，我國頒布實(shí)施了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，但這些法律法規(guī)主要約束的是提供相關(guān)服務(wù)的平臺。而隨著軟硬件技術(shù)的發(fā)展，目前 Deepfake 完全可以只使用運(yùn)行在個人電腦中的模型完成。 所以，要應(yīng)對 Deepfake 帶來的各類問題，需要全流程的綜合治理機(jī)制，未來需要技術(shù)、平臺、法律的多元協(xié)同。用 Deepfake 假冒名人身份，欺騙他人購買產(chǎn)品，不僅可能違反《民法典》第 1019 條和第 1024 條，侵犯他人的肖像權(quán)、名譽(yù)權(quán)，還可能涉及《刑法》第 266 條詐騙罪、《刑法》第 222 條虛假廣告罪等。對于使用 Deepfake 涉及違法乃至犯罪的行為，就需要依法進(jìn)行打擊。 策劃制作 作者丨于旸 騰訊玄武實(shí)驗(yàn)室負(fù)責(zé)人 審核丨于乃功 北京工業(yè)大學(xué)機(jī)器人工程專業(yè)負(fù)責(zé)人，北京人工智能研究院機(jī)器人研究中心主任，博士生導(dǎo)師 趙精武 北京航空航天大學(xué)法學(xué)院副教授，工信部工業(yè)和信息化法治戰(zhàn)略與管理重點(diǎn)實(shí)驗(yàn)室副主任、網(wǎng)絡(luò)空間國際治理研究基地副主任 責(zé)編丨林林 |
了解東遠(yuǎn)
東遠(yuǎn)簡介 產(chǎn)品中心 技術(shù)方案 科研中心 聯(lián)系我們活動及狀態(tài)
最新消息 新品推薦 招標(biāo)中心 線上直銷 ChatGPT常見問題
購買渠道 項(xiàng)目合作 開票資料 支付方式 法律聲明關(guān)注我們：東遠(yuǎn)物聯(lián)
抖音
微信咨詢
咨詢電話：
199-2833-9866D-Think | 廣州東遠(yuǎn)智能科技有限公司
地址：廣州市白云區(qū)北太路1633號廣州民營科技園科創(chuàng)中心2棟16樓
電話：+86 020-87227952 Email：[email protected]
Copyright ©2020 東遠(yuǎn)科技 粵ICP備2024254589號
免責(zé)申明：部分圖文表述來自于網(wǎng)絡(luò)，如有侵權(quán)請聯(lián)系作者刪除！
19款電子扎帶
電路板識別電子標(biāo)簽