甄嬛舉槍、唐僧親吻……AI“魔改”視頻火熱，技術(shù)進(jìn)步背后的邊界在哪？丨封面深鏡

2024-12-21 07:54| 發(fā)布者: admin| 查看: 107| 評(píng)論: 0

摘要: 封面新聞?dòng)浾?羅石芊邊雪“0幀起手”。在經(jīng)過(guò)AI（人工智能）“二創(chuàng)”之后，《甄嬛傳》變成槍?xiě)?zhàn)片，《西游記》中唐僧和女兒國(guó)國(guó)王擁抱親吻，《紅樓夢(mèng)》劇情變武打戲，《三國(guó)演義》里諸葛亮戴上墨鏡指點(diǎn)沙場(chǎng)……AI“ ...

封面新聞?dòng)浾?羅石芊邊雪

“0幀起手”。在經(jīng)過(guò)AI（人工智能）“二創(chuàng)”之后，《甄嬛傳》變成槍?xiě)?zhàn)片，《西游記》中唐僧和女兒國(guó)國(guó)王擁抱親吻，《紅樓夢(mèng)》劇情變武打戲，《三國(guó)演義》里諸葛亮戴上墨鏡指點(diǎn)沙場(chǎng)……

AI“魔改”寶玉、黛玉打架（網(wǎng)絡(luò)視頻截圖）

2024年，被廣泛認(rèn)為是“AI視頻元年”。隨著AI視頻生成技術(shù)的不斷成熟，在各大短視頻平臺(tái)上，使用AI生成創(chuàng)作的各類(lèi)短視頻變得火熱，部分畫(huà)面可以做到以假亂真，特別是下半年以來(lái)，對(duì)于經(jīng)典影視作品的二次創(chuàng)作開(kāi)始“爆發(fā)”。通過(guò)AI技術(shù)對(duì)經(jīng)典IP作品進(jìn)行“魔改”，是一種創(chuàng)新還是對(duì)原著的褻瀆？引發(fā)了網(wǎng)友的廣泛討論。

通過(guò)AI進(jìn)行“移花接木”的現(xiàn)象也時(shí)有發(fā)生。近段時(shí)間，知名傳染病學(xué)專(zhuān)家張文宏的容貌和聲音被商家通過(guò)“AI換臉”移花接木，在網(wǎng)絡(luò)上帶貨，有不少老年人掉入“陷阱”。

12月7日，國(guó)家廣播電視總局網(wǎng)絡(luò)視聽(tīng)司發(fā)布《管理提示（ AI魔改）》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā)，要求短視頻平臺(tái)進(jìn)行排查清理。

AI“魔改”視頻興起，帶來(lái)了哪些新的問(wèn)題？創(chuàng)作者對(duì)影視作品進(jìn)行“二創(chuàng)”是否面臨法律風(fēng)險(xiǎn)？AI技術(shù)進(jìn)步的背后是否存在“邊界”？封面新聞?dòng)浾邔?duì)這一現(xiàn)象進(jìn)行了調(diào)查，并邀請(qǐng)了業(yè)內(nèi)相關(guān)專(zhuān)家和律師，請(qǐng)他們進(jìn)行解讀。

AI“魔改”經(jīng)典影視劇

廣電總局出手管控

近段時(shí)間，在短視頻平臺(tái)上，一些AI生成的視頻吸引了不少網(wǎng)友關(guān)注。其中，一些經(jīng)典影視作品的畫(huà)面，在經(jīng)過(guò)AI二次創(chuàng)作“魔改”后，得到了大量點(diǎn)贊。

被“魔改”的影視作品中，四大名著和《甄嬛傳》中的視頻畫(huà)面較多。例如，《西游記》里，唐僧與女兒國(guó)國(guó)王“終成眷屬”，擁抱親吻，大師兄孫悟空騎著摩托車(chē)揚(yáng)長(zhǎng)而去；《三國(guó)演義》中，羽扇綸巾的諸葛亮戴上了墨鏡指點(diǎn)沙場(chǎng)；《紅樓夢(mèng)》里，黛玉、寶玉話(huà)不投機(jī)就大打出手，黛玉還能徒手倒拔垂楊柳；熱門(mén)影視劇《甄嬛傳》中，甄嬛更是一言不合就舉槍……

甄嬛舉槍、唐僧親吻……AI“魔改”視頻火熱，技術(shù)進(jìn)步背后的邊界在哪？丨封面深鏡

甄嬛“舉槍”（網(wǎng)絡(luò)視頻截圖）

這些視頻，通過(guò)AI工具對(duì)原有視頻內(nèi)容進(jìn)行了重新剪輯、配音，改變劇情走向，讓觀眾覺(jué)得十分新鮮好玩，瀏覽量、點(diǎn)贊量、轉(zhuǎn)發(fā)量頗高，有網(wǎng)友表示“這才是原版”。但同時(shí)，也有網(wǎng)友擔(dān)憂(yōu)，這樣的“魔改”劇情，會(huì)對(duì)大眾認(rèn)知造成沖擊，認(rèn)為經(jīng)典不應(yīng)該被胡亂改編。

12月7日，國(guó)家廣播電視總局網(wǎng)絡(luò)視聽(tīng)司發(fā)布《管理提示（AI魔改）》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā)。這些AI“魔改”經(jīng)典包括《甄嬛傳》變身“槍?xiě)?zhàn)片”，《紅樓夢(mèng)》改成“武打戲”，孫悟空騎著摩托車(chē)揚(yáng)長(zhǎng)而去等。這些視頻為博流量，毫無(wú)邊界褻瀆經(jīng)典IP，沖擊傳統(tǒng)文化認(rèn)知，與原著精神內(nèi)核相悖，且涉嫌構(gòu)成侵權(quán)行為。

甄嬛舉槍、唐僧親吻……AI“魔改”視頻火熱，技術(shù)進(jìn)步背后的邊界在哪？丨封面深鏡

《甄嬛傳》變成槍?xiě)?zhàn)片（網(wǎng)絡(luò)視頻截圖）

《管理提示》要求，各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理AI“魔改”影視劇的短視頻，并嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求，舉一反三，對(duì)各自平臺(tái)開(kāi)發(fā)的大模型或AI特效功能等進(jìn)行自查，對(duì)在平臺(tái)上使用、傳播的各類(lèi)相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)督，對(duì)AI生成內(nèi)容做出顯著提示。

AI視頻加速發(fā)展

換臉配音等以假亂真

2023年，AI開(kāi)始“爆發(fā)”。2024年，AI不斷創(chuàng)新突破，技術(shù)出現(xiàn)了巨大進(jìn)步，新業(yè)態(tài)持續(xù)涌現(xiàn)，在視頻生成大模型方面表現(xiàn)得尤為明顯。今年2月，OpenAI發(fā)布文生視頻模型SORA，AI視頻在分辨率、畫(huà)面真實(shí)度、時(shí)序一致性等方面有了顯著提升，給人強(qiáng)烈震撼。

一石激起千層浪，國(guó)內(nèi)外多家技術(shù)公司開(kāi)始布局AI視頻。今年，我國(guó)的即夢(mèng)、可靈、海螺等AI平臺(tái)不斷推出新的視頻生成技術(shù)，表現(xiàn)亮眼，其效果已經(jīng)超越近期才對(duì)外開(kāi)放使用的SORA，在全球處于“第一梯隊(duì)”。封面新聞?dòng)浾咴诙鄠€(gè)平臺(tái)測(cè)試發(fā)現(xiàn)，國(guó)內(nèi)AI平臺(tái)的文生視頻、圖生視頻、對(duì)口型配音的畫(huà)面表現(xiàn)力和真實(shí)度，在某些場(chǎng)景下，足以“以假亂真”。

在此基礎(chǔ)上，不少APP也開(kāi)發(fā)了簡(jiǎn)易的“AI一鍵生成”功能，用戶(hù)將所需創(chuàng)作的圖片、影像、音樂(lè)導(dǎo)入后，可根據(jù)自己的喜好“定制”專(zhuān)屬的作品，生產(chǎn)出高清晰度、高畫(huà)質(zhì)、真實(shí)感強(qiáng)的新作品。

但是，這樣的AI技術(shù)，在方便創(chuàng)作者進(jìn)行內(nèi)容生產(chǎn)的同時(shí)，也出現(xiàn)了上文中的AI“魔改”現(xiàn)象。同時(shí)，有商家利用AI換臉等手段，在網(wǎng)絡(luò)上謀取利益。

甄嬛舉槍、唐僧親吻……AI“魔改”視頻火熱，技術(shù)進(jìn)步背后的邊界在哪？丨封面深鏡

張文宏醫(yī)生被AI換臉后帶貨蛋白棒（網(wǎng)絡(luò)視頻截圖）

前段時(shí)間，知名傳染病學(xué)專(zhuān)家張文宏，就被商家通過(guò)AI換臉、合成人聲做成視頻，在網(wǎng)絡(luò)上“直播帶貨”銷(xiāo)售一款蛋白棒，使不少老年人信以為真。對(duì)此，12月12日，張文宏在接受媒體采訪(fǎng)時(shí)回應(yīng)，這樣的賣(mài)貨賬號(hào)不止一個(gè)，且一直在變，他已多次向平臺(tái)投訴?！昂芏嗖幻髡嫦嗟睦习傩?、特別是有些對(duì)AI不是很熟悉的、年紀(jì)較大的市民，就很容易相信。”除此之外，張文宏也考慮求助警方，但對(duì)方看不見(jiàn)、摸不著，經(jīng)常更換賬號(hào)，很難找到準(zhǔn)確的報(bào)警對(duì)象。

張文宏的遭遇，并不是首例。去年，在江西上饒，68歲的丁奶奶刷視頻陷入“假靳東”騙局。丁奶奶在網(wǎng)上刷到假冒靳東的視頻，相信是靳東本人發(fā)布的，給其發(fā)私信刷禮物，3年時(shí)間刷了3萬(wàn)余元。

今年國(guó)慶，“雷軍”在網(wǎng)絡(luò)上犀利點(diǎn)評(píng)堵車(chē)、調(diào)休、游戲等熱門(mén)話(huà)題，引發(fā)網(wǎng)友熱議。但事實(shí)上，這些內(nèi)容與雷軍并無(wú)關(guān)系，而是有人通過(guò)AI配音制作。

據(jù)《2024人工智能安全報(bào)告》顯示，2023年，基于AI的深度偽造欺詐增長(zhǎng)了3000%；2024年上半年，AI詐騙案案值已超過(guò)1.85億元。

12月15日，騰訊官方內(nèi)容安全溝通站點(diǎn)微信“珊瑚安全”公眾號(hào)發(fā)布消息稱(chēng)，微信從速?gòu)膰?yán)打擊了一批利用AI仿冒知名人士進(jìn)行不當(dāng)營(yíng)銷(xiāo)、惡意博取流量的違規(guī)行為，并針對(duì)相關(guān)情況開(kāi)展專(zhuān)項(xiàng)治理，截至目前，累計(jì)處置內(nèi)容532條，關(guān)閉賬號(hào)209個(gè)。

封面新聞?dòng)浾邚臉I(yè)內(nèi)人士處獲悉，目前，抖音、快手等短視頻平臺(tái)，也對(duì)AI生成視頻進(jìn)行較為嚴(yán)格的審核，除了在畫(huà)面中標(biāo)注提醒類(lèi)文字外，還對(duì)一些視頻進(jìn)行限流處理。

甄嬛舉槍、唐僧親吻……AI“魔改”視頻火熱，技術(shù)進(jìn)步背后的邊界在哪？丨封面深鏡

AI“魔改”諸葛亮戴上墨鏡（網(wǎng)絡(luò)視頻截圖）

AI技術(shù)的“邊界”在哪？

專(zhuān)家：應(yīng)提前做好風(fēng)險(xiǎn)控制

AI技術(shù)的快速發(fā)展，正在推動(dòng)相關(guān)領(lǐng)域發(fā)生深度變革。關(guān)于AI“魔改”類(lèi)的視頻，網(wǎng)友也是各持己見(jiàn)。有網(wǎng)友認(rèn)為AI二創(chuàng)“魔改”，很有創(chuàng)意，只是為了“圖一樂(lè)”，通過(guò)新技術(shù)重新“解讀”了經(jīng)典，不應(yīng)太過(guò)苛責(zé)。也有網(wǎng)友認(rèn)為，AI的不合理的創(chuàng)作，是對(duì)原著作品的一種侵權(quán)，涉及法律風(fēng)險(xiǎn)。

AI技術(shù)的“邊界”在何處？應(yīng)當(dāng)從哪些方面出發(fā)更好規(guī)范AI技術(shù)發(fā)展？四川大學(xué)文學(xué)與新聞學(xué)院研究員、博士生導(dǎo)師宋耀教授認(rèn)為，AI只是一個(gè)技術(shù)工具，關(guān)鍵在于使用者要有對(duì)信息本源的價(jià)值判斷，政府、平臺(tái)、企業(yè)需要提前做好風(fēng)險(xiǎn)控制。

宋耀說(shuō)，政府部門(mén)可以對(duì)AIGC的內(nèi)容進(jìn)行適當(dāng)管理，“如果是涉及偏公益、普及、教育意義的信息，由于會(huì)影響大眾判斷，政府可以通過(guò)政策進(jìn)行引導(dǎo)?！蓖瑫r(shí)，政府也應(yīng)當(dāng)加大對(duì)AI技術(shù)上游公司的監(jiān)管，保證全鏈條的透明度。

針對(duì)AI技術(shù)源頭公司，宋耀認(rèn)為，企業(yè)本身也需要加大對(duì)技術(shù)的管理，“企業(yè)可以嘗試通過(guò)技術(shù)，給視頻打上‘AIGC生成甄別標(biāo)簽’并永久留存，這樣可以更明顯地提醒大眾。”他還建議，AIGC視頻要能溯源，企業(yè)可通過(guò)區(qū)塊鏈等方式，為視頻打一個(gè)AI生成的標(biāo)記，平臺(tái)可以通過(guò)該標(biāo)記能夠找到背后的數(shù)據(jù)模型，溯源后起到管理用戶(hù)的作用。

“我認(rèn)為相關(guān)AI軟件在使用前，可以考慮通過(guò)合同的方式來(lái)進(jìn)行使用者行為的限制，比如使用者在使用軟件過(guò)程中，對(duì)作品版權(quán)進(jìn)行限制，如果用AI生成了作品，可以要求使用者不能夠進(jìn)行商業(yè)化、不得生成違法作品等條款，通過(guò)對(duì)生成內(nèi)容進(jìn)行預(yù)先設(shè)定，以合同的方式來(lái)限制他人對(duì)原作品的濫用?！彪娮涌萍即髮W(xué)公共管理學(xué)院副教授、英特信律所律師黃小洵表示。

“培養(yǎng)用戶(hù)的相關(guān)意識(shí)是非常有必要的，因?yàn)槲覀儸F(xiàn)在面臨與AI相關(guān)的領(lǐng)域越來(lái)越多，很可能個(gè)人就成為AI作品的創(chuàng)作者。在相關(guān)技術(shù)發(fā)展的過(guò)程當(dāng)中，我們其實(shí)有一個(gè)認(rèn)知，如果回溯版權(quán)法的整個(gè)發(fā)展歷程，每當(dāng)面臨新的技術(shù)，就會(huì)產(chǎn)生新的作品形式，公眾其實(shí)都會(huì)產(chǎn)生一種新的法律認(rèn)知。”黃小洵告訴封面新聞?dòng)浾?，?dāng)前非常有必要來(lái)提高公眾對(duì)AI相關(guān)產(chǎn)品使用的法律意識(shí)，因?yàn)槿斯ぶ悄苌婕暗膯?wèn)題很廣，比如AI在進(jìn)行學(xué)術(shù)研究過(guò)程中，同樣會(huì)引發(fā)相關(guān)的倫理問(wèn)題，但很多AI工具的使用者法律意識(shí)都是很模糊的。

AI“魔改”涉及法律風(fēng)險(xiǎn)

律師：惡搞或侵犯原作品著作權(quán)

AI換臉、AI“魔改”，是否會(huì)觸犯相關(guān)法律？AI作品是否能擁有自己的版權(quán)？對(duì)此，陜西恒達(dá)律師事務(wù)所高級(jí)合伙人、知名公益律師趙良善在接受封面新聞?dòng)浾卟稍L(fǎng)時(shí)表示，未經(jīng)著作權(quán)人許可，用AI技術(shù)“魔改”原作品，在多個(gè)關(guān)鍵特征上與原作品具有極高相似度，甚至褻瀆、玷污原作品，從而符合“接觸”和“實(shí)質(zhì)性相似”的侵權(quán)判定標(biāo)準(zhǔn)，平臺(tái)侵犯了原作品的復(fù)制權(quán)、改編權(quán)等著作權(quán)。若AI“魔改”原作品，在構(gòu)成侵權(quán)的情況下，AI衍生的作品因自身的違法性導(dǎo)致其不享有版權(quán)。

封面新聞?dòng)浾卟樵?xún)民法典時(shí)發(fā)現(xiàn)，AI換臉技術(shù)涉及肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)等多種權(quán)利。據(jù)我國(guó)《中華人民共和國(guó)民法典》第一千零一十九條規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段侵犯他人肖像權(quán)的方式，制作、使用、展示他人肖像。利用AI換臉技術(shù)制作虛假的肖像，侵犯了他人的肖像權(quán)，可能會(huì)引發(fā)侵權(quán)糾紛。

“用戶(hù)利用AI換臉技術(shù)偽裝，導(dǎo)致被偽裝人的肖像權(quán)等權(quán)利被侵權(quán)，或?qū)е缕渌说母星楹拓?cái)產(chǎn)大量受損時(shí)，平臺(tái)在未盡到合理審核義務(wù)、未有效規(guī)制該類(lèi)行為發(fā)生的情況下，需要承擔(dān)一定的幫助侵權(quán)，甚至直接侵權(quán)的法律責(zé)任?！碧┖吞┞蓭熓聞?wù)所律師劉青表示，但是，除非平臺(tái)故意為之或協(xié)助詐騙人進(jìn)行詐騙行為，否則很難認(rèn)定平臺(tái)構(gòu)成詐騙罪。