圖片來(lái)源 視覺(jué)中國(guó)

本文為《中國(guó)審判》雜志原創(chuàng)稿件

文| 本刊記者 劉庭梅

提出需求，就能自動(dòng)生成相應(yīng)的文稿大綱；上傳照片，就能自動(dòng)生成各類搞笑視頻……近兩年，隨著ChatGPT在全球范圍內(nèi)爆紅，AI大模型熱潮在國(guó)內(nèi)急速升溫。即將過(guò)去的2024年，更被認(rèn)為是AI大模型應(yīng)用落地元年。各類AI應(yīng)用呈爆發(fā)式增長(zhǎng)，八仙過(guò)海、各顯神通，為各行各業(yè)注入強(qiáng)勁生產(chǎn)力。2024年10月，工業(yè)和信息化部最新數(shù)據(jù)顯示，我國(guó)完成備案并上線為公眾提供服務(wù)的生成式人工智能服務(wù)大模型近200個(gè)，注冊(cè)用戶超過(guò)6億。

AI技術(shù)不斷更新，刷新了我們對(duì)未來(lái)的想象。但與此同時(shí)，AI造謠、AI侵權(quán)、AI詐騙等亂象也紛至沓來(lái)。近段時(shí)間，AI “魔改”再次受到公眾關(guān)注，引發(fā)輿論爭(zhēng)議。

AI“魔改”現(xiàn)象，即將經(jīng)典影視劇通過(guò)人工智能技術(shù)進(jìn)行篡改和惡搞的行為。

記者在某視頻平臺(tái)上搜索發(fā)現(xiàn)，經(jīng)過(guò)AI“魔改”，《甄嬛傳》成了“槍戰(zhàn)片”，甄嬛手持沖鋒槍收拾情敵，華妃轉(zhuǎn)眼就身騎摩托車揚(yáng)長(zhǎng)而去；《紅樓夢(mèng)》變成了“武打戲”，柔弱的林黛玉變成了“林教頭”，竟然能“倒拔垂楊柳”；《三國(guó)演義》中的劉備、張飛化身“變種人”；《西游記》里的孫悟空上一秒剛駕起的筋斗云，下一秒就變成了飛機(jī)。

其實(shí)，“魔改”電視劇并不是新鮮事，一直以來(lái)就有對(duì)經(jīng)典影視劇的改編，但此前更多是對(duì)相關(guān)視頻進(jìn)行剪輯、配音等操作。如今，借助AI軟件，普通人能夠輕松將經(jīng)典影視劇中的角色和場(chǎng)景“移植”到全新的語(yǔ)境中，帶來(lái)夸張的變化，沖擊感官認(rèn)知。

記者通過(guò)下載AI軟件并操作發(fā)現(xiàn)，按照制作步驟，導(dǎo)入需要的視頻、音頻、圖片等素材，輸入一段描述詞，如“幫我生成一段能夠讓畫面中的角色騎著摩托車離開(kāi)的視頻”，再經(jīng)過(guò)簡(jiǎn)單的視頻剪輯，很快就可以生成想要的效果。

受AI“魔改”熱潮的影響，互聯(lián)網(wǎng)上不僅涌現(xiàn)出大量AI“魔改”視頻制作教程，更有自媒體利用AI“魔改”視頻輕松收獲數(shù)十萬(wàn)粉絲關(guān)注，甚至有的還通過(guò)植入廣告進(jìn)行營(yíng)利。

對(duì)于這些AI“魔改”視頻，有的網(wǎng)友覺(jué)得十分新鮮、有創(chuàng)意，瀏覽量、點(diǎn)贊量、轉(zhuǎn)發(fā)量頗高；也有的網(wǎng)友認(rèn)為經(jīng)典不應(yīng)該被胡亂改編，擔(dān)心這樣的“魔改”劇情，不僅會(huì)對(duì)大眾認(rèn)知造成沖擊，更在無(wú)形中侵蝕著我們的傳統(tǒng)文化。

AI“魔改”生成的內(nèi)容算不算作品？“站在巨人肩膀上”通過(guò)AI創(chuàng)作的視頻是否會(huì)觸犯相關(guān)法律？

中國(guó)政法大學(xué)傳播法研究中心副主任朱巍此前在接受媒體采訪時(shí)表示，首先，對(duì)影視作品進(jìn)行AI“魔改”，實(shí)際類似于二次創(chuàng)作，因此創(chuàng)作者需要原作品版權(quán)的授權(quán)，否則可能會(huì)涉及版權(quán)侵權(quán)問(wèn)題。有些創(chuàng)作者通過(guò)平臺(tái)來(lái)獲取影視資料，即使在這個(gè)平臺(tái)進(jìn)行二次創(chuàng)作，也要看平臺(tái)有沒(méi)有對(duì)相關(guān)作品進(jìn)行二次創(chuàng)作的權(quán)利，即有無(wú)版權(quán)授權(quán)。其次，即使獲得版權(quán)授權(quán)，AI“魔改”也未必都合法，而是要看有沒(méi)有侵害到人格權(quán)益。人格權(quán)益有一些是表演者權(quán)利，還有一些涉及聲音權(quán)。例如，在AI“魔改”過(guò)程中，利用別人的聲音作為聲音的輸出，就有可能侵犯表演者聲音權(quán)等人格權(quán)利。

北京互聯(lián)網(wǎng)法院法官指出，根據(jù)《中華人民共和國(guó)著作權(quán)法》第五十二條第一款的規(guī)定，未經(jīng)著作權(quán)人許可，發(fā)表其作品構(gòu)成侵權(quán)。根據(jù)該法第五十二條第六款的規(guī)定，未經(jīng)著作權(quán)人許可，以改編、翻譯、注釋等方式使用作品也構(gòu)成侵權(quán)。因此，未經(jīng)授權(quán)，使用AI工具改編經(jīng)典影視內(nèi)容并在網(wǎng)絡(luò)上傳播，屬于典型的侵權(quán)行為。

另根據(jù)《中華人民共和國(guó)民法典》（以下簡(jiǎn)稱《民法典》）第一千零一十八條的規(guī)定，自然人享有肖像權(quán)，有權(quán)依法制作、使用、公開(kāi)或者許可他人使用自己的肖像。根據(jù)《民法典》第一千零一十九條的規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。

2024年12月9日，國(guó)家廣播電視總局網(wǎng)絡(luò)視聽(tīng)節(jié)目管理司發(fā)布《管理提示（AI魔改）》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典亂象頻發(fā)，要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理AI“魔改”影視劇的短視頻。

《管理提示（AI魔改）》指出，這些AI“魔改”視頻為博流量，毫無(wú)邊界褻瀆經(jīng)典IP，沖擊傳統(tǒng)文化認(rèn)知，與原著精神內(nèi)核相悖，且涉嫌構(gòu)成侵權(quán)行為。

為營(yíng)造清朗網(wǎng)絡(luò)視聽(tīng)空間，《管理提示（AI魔改）》要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理AI“魔改”影視劇的短視頻，限期反饋工作情況；嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求，舉一反三，對(duì)各自平臺(tái)開(kāi)發(fā)的大模型或AI特效功能等進(jìn)行自查，對(duì)在平臺(tái)上使用、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看，對(duì)AI生成內(nèi)容作出顯著提示。

隨著AI技術(shù)的廣泛應(yīng)用，AI聲音、AI圖像、AI視頻都開(kāi)始涌現(xiàn)，相關(guān)侵權(quán)糾紛案件數(shù)量也逐漸增多。

2023年11月，北京互聯(lián)網(wǎng)法院審理判決了“AI文生圖著作權(quán)侵權(quán)第一案”。該案中，原告使用開(kāi)源軟件Stable Diffusion，通過(guò)輸入提示詞生成了涉案圖片并發(fā)布在社交媒體上，被告未經(jīng)許可使用且截去署名水印。北京互聯(lián)網(wǎng)法院經(jīng)審理，明確了利用人工智能生成圖片的“作品”屬性和使用者的“創(chuàng)作者”身份，判決被告賠禮道歉并賠償原告500元。

2024年4月23日，北京互聯(lián)網(wǎng)法院對(duì)全國(guó)首例“AI生成聲音人格權(quán)侵權(quán)案”進(jìn)行了一審宣判。該案中，原告殷某是一名配音師，經(jīng)朋友告知，原告發(fā)現(xiàn)他人利用其配音制作的作品在多個(gè)知名App廣泛流傳。經(jīng)聲音篩選和溯源，發(fā)現(xiàn)上述作品中的聲音來(lái)自被告北京某智能科技公司運(yùn)營(yíng)的平臺(tái)中的文本轉(zhuǎn)語(yǔ)音產(chǎn)品，用戶通過(guò)輸入文本、調(diào)整參數(shù)，可實(shí)現(xiàn)文本轉(zhuǎn)化成語(yǔ)音的功能。法院經(jīng)審理，明確認(rèn)定在具備可識(shí)別性的前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音，判決被告五家公司未經(jīng)合法授權(quán)使用原告聲音開(kāi)發(fā)AI文本轉(zhuǎn)語(yǔ)音產(chǎn)品，構(gòu)成了侵權(quán)，賠償25萬(wàn)元。

記者在多個(gè)平臺(tái)測(cè)試發(fā)現(xiàn)，如今，國(guó)內(nèi)AI平臺(tái)的文生視頻、圖生視頻、對(duì)口型配音的畫面表現(xiàn)力和真實(shí)度，在某些場(chǎng)景下，足以“以假亂真”。

這樣的AI技術(shù)，在方便創(chuàng)作者進(jìn)行內(nèi)容生產(chǎn)的同時(shí)，也出現(xiàn)了上文中的AI“魔改”現(xiàn)象。同時(shí)，有商家利用AI“換臉”等手段，在網(wǎng)絡(luò)上謀取利益。

前段時(shí)間，知名傳染病學(xué)專家張文宏就被商家通過(guò)AI“換臉”、合成人聲做成視頻，在網(wǎng)絡(luò)上“直播帶貨”，銷售一款蛋白棒，使不少消費(fèi)者信以為真。

面對(duì)這些明目張膽的侵權(quán)行為，張文宏在接受采訪時(shí)表示：“這樣的賣貨賬號(hào)不止一個(gè)，且一直在變，我多次向平臺(tái)投訴但屢禁不絕。很多不明真相的老百姓，特別是有些對(duì)AI不是很熟悉的、年紀(jì)較大的消費(fèi)者，就很容易相信?！贝送?，張文宏也考慮求助警方，但對(duì)方看不見(jiàn)、摸不著，經(jīng)常更換賬號(hào)，很難找到準(zhǔn)確的報(bào)警對(duì)象。

AI“魔改”、AI“換臉”、AI合成虛假視頻……一系列技術(shù)濫用問(wèn)題，不僅嚴(yán)重侵犯他人肖像權(quán)、名譽(yù)權(quán)、著作權(quán)，也是對(duì)公共信任的侵蝕。不可否認(rèn)，人工智能作為一場(chǎng)顛覆性的技術(shù)革新，為內(nèi)容創(chuàng)作領(lǐng)域帶來(lái)了前所未有的機(jī)遇與挑戰(zhàn)。從智能編輯到個(gè)性化推薦，從虛擬形象到增強(qiáng)現(xiàn)實(shí)，AI技術(shù)正在不斷拓展內(nèi)容創(chuàng)作的邊界，為觀眾帶來(lái)了更加豐富、多元的視覺(jué)體驗(yàn)。

然而，當(dāng)技術(shù)被濫用，成為侵犯他人權(quán)益、誤導(dǎo)公眾的工具時(shí)，其負(fù)面影響便不容忽視，亟待法律規(guī)制。

AI技術(shù)的“邊界”在何處？如何能夠更好地規(guī)范AI技術(shù)發(fā)展？

四川大學(xué)文學(xué)與新聞學(xué)院研究員、教授宋耀此前在接受媒體采訪時(shí)指出，AI只是一個(gè)技術(shù)工具，關(guān)鍵在于使用者要有對(duì)信息本源的價(jià)值判斷，政府、平臺(tái)、企業(yè)需要提前做好風(fēng)險(xiǎn)控制。

世界多國(guó)均已關(guān)注到人工智能安全立法問(wèn)題的重要性，以人工智能重點(diǎn)問(wèn)題為出發(fā)點(diǎn)，積極起草、出臺(tái)人工智能安全治理相關(guān)的法律法規(guī)。2024年8月1日起，歐盟《人工智能法案》生效。該法案覆蓋了從市場(chǎng)準(zhǔn)入、運(yùn)營(yíng)責(zé)任到透明度要求的全鏈條規(guī)則，對(duì)在歐盟境內(nèi)或影響歐盟市場(chǎng)的AI系統(tǒng)和活動(dòng)產(chǎn)生約束力。截至目前，已經(jīng)有美國(guó)、加拿大等數(shù)十個(gè)國(guó)家先后發(fā)布了與人工智能相關(guān)的國(guó)家戰(zhàn)略和法規(guī)文件，國(guó)際人工智能安全治理的法治化水平逐步提高。

2023年1月10日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式施行。2023年8月，國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》正式施行。

根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條的規(guī)定，深度合成服務(wù)提供者提供相關(guān)深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

《生成式人工智能服務(wù)管理暫行辦法》第十二條規(guī)定，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

為進(jìn)一步細(xì)化規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，2024年9月14日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》，并公開(kāi)征求意見(jiàn)。其中指出，服務(wù)提供者應(yīng)對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)，包括在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí)，可在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識(shí)。用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

“基于數(shù)據(jù)訓(xùn)練投喂以形成更加成熟的大模型訓(xùn)練效果已成為當(dāng)下人工智能技術(shù)升級(jí)與模式迭代的必由路徑。然而，人工智能訓(xùn)練數(shù)據(jù)的路徑不僅與現(xiàn)有法律秩序存在沖突，而且極大地影響了原有商業(yè)模式，沖擊人們對(duì)于作品交易、數(shù)據(jù)喂養(yǎng)的既有認(rèn)識(shí)和觀念?！北本┐髮W(xué)法學(xué)院教授張平在《人工智能生成內(nèi)容著作權(quán)合法性的制度難題及其解決路徑》一文中指出。

在張平看來(lái)，應(yīng)該綜合性地解決體系性認(rèn)知問(wèn)題，在穩(wěn)固“思想—表達(dá)二分法”的基礎(chǔ)原則上，可嘗試通過(guò)將署名和其他著作權(quán)進(jìn)行分離的制度設(shè)計(jì)，以貫徹誠(chéng)信原則保障數(shù)據(jù)來(lái)源真實(shí)，通過(guò)合法購(gòu)買與合同約定風(fēng)險(xiǎn)承擔(dān)、打開(kāi)人工智能預(yù)訓(xùn)練階段數(shù)據(jù)獲取的著作權(quán)合理使用閘口，并借助避風(fēng)港規(guī)則實(shí)現(xiàn)責(zé)任豁免、集體管理組織集中授權(quán)、建立開(kāi)放授權(quán)的數(shù)據(jù)資源等多元化方案解決現(xiàn)實(shí)世界與技術(shù)演變之間的“發(fā)展之問(wèn)”，因地制宜地進(jìn)行規(guī)范框架調(diào)整和規(guī)則解釋突破，實(shí)現(xiàn)產(chǎn)業(yè)發(fā)展與技術(shù)升級(jí)規(guī)范措施保障之間的最佳平衡。

在科技日新月異的今天，我們既要充分利用AI等先進(jìn)技術(shù)為創(chuàng)作帶來(lái)新的可能性和機(jī)遇，也要時(shí)刻警惕其可能帶來(lái)的文化風(fēng)險(xiǎn)和挑戰(zhàn)。只有堅(jiān)守底線、加強(qiáng)法律監(jiān)管和自律意識(shí)，才能共同推動(dòng)AI技術(shù)健康發(fā)展。