AI，也就是人工智能技術(shù)，它的發(fā)展為我們的生活帶來了許多便利，然而也引發(fā)了一些亂象。以AI語音合成技術(shù)為例，只要提取一個人足夠的聲音樣本，就能“克隆”出他的聲音，制作出AI人聲視頻。近期，網(wǎng)絡(luò)短視頻平臺上就出現(xiàn)了這樣一類視頻。視頻中，AI合成的聲音與一些名人相似度極高，讓網(wǎng)友真假難辨。視頻內(nèi)容包括惡搞調(diào)侃等，其中甚至還有不雅詞匯，造成不良社會影響，引發(fā)爭議。這樣隨意使用名人聲音的行為是否合法？又該如何監(jiān)管呢？ 惡搞造謠 AI合成公眾人物聲音引爭議 記者在短視頻平臺搜索某企業(yè)家名字，搜出來的幾乎都是用AI制作的他的聲音惡搞的視頻。 同樣記者發(fā)現(xiàn)，網(wǎng)絡(luò)上用AI名人的聲音制作短視頻現(xiàn)象比較普遍，有人就用AI制作了劉德華的聲音為自己增加流量。
該視頻出現(xiàn)后，劉德華電影公司連續(xù)發(fā)布兩則聲明，提醒各方人士注意，避免落入偽造劉德華聲音的AI語音合成技術(shù)騙局。 濫用公眾人物聲音 生成音頻僅需30秒 記者調(diào)查發(fā)現(xiàn)，目前網(wǎng)絡(luò)上可以使用的AI聲音合成工具或者網(wǎng)站，只要30秒就能生成出八分相似的聲音。 比如利用這類工具或網(wǎng)站，網(wǎng)友可以自己采集一段名人的聲音放到AI軟件中，軟件就能模擬名人的聲音朗讀文本內(nèi)容。同時，短視頻平臺上還有大量的視頻主播在教如何用AI合成名人的聲音。一些網(wǎng)絡(luò)主播甚至鼓勵網(wǎng)友用名人的聲音去進行帶貨等商業(yè)活動。 AI聲音合成技術(shù)已較成熟 能以假亂真 這些以假亂真的聲音，究竟是如何用AI合成出來的呢？專家介紹，當前AI聲音合成技術(shù)背后，主要應用的是人工智能的深度學習算法，通過AI模型，對采集的聲音樣本進行處理，從而實現(xiàn)聲音的“克隆”。 中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會專家 薛智慧：這個處理過程中主要涉及了兩個子模型，第一個子模型主要對語言的基礎(chǔ)進行處理，比如說它的內(nèi)容、語速、語調(diào)以及情感等進行處理。第二個是音色模型，主要對第一個模型里生成的語言加上音色的信息，最終進行合成。 AI聲音合成技術(shù)到底可以逼真到什么程度，記者做了一次實驗，讓AI軟件讀取了記者的聲音，隨后輸入一段文字，讓AI合成記者的聲音。
總臺央視記者 崔世杰：大約30分鐘以前，AI采集了我的聲音，經(jīng)過半個小時的訓練和分析以后，AI克隆的聲音非常像我的聲音。 專家表示，目前AI聲音合成技術(shù)比較成熟，在國外已經(jīng)推出了可以模仿任何人的付費軟件產(chǎn)品。 民法典規(guī)定 自然人聲音受法律保護 AI合成的公眾人物聲音真的可以隨意拿來為自己所用嗎？《中華人民共和國民法典》第1023條規(guī)定，對自然人聲音的保護，參照適用肖像權(quán)保護的有關(guān)規(guī)定。對這條規(guī)定，具體應該如何理解呢？法律專家進行了解讀↓ 中國政法大學副教授 朱?。何覀儸F(xiàn)在看到的一些編輯的人臉，包括聲音在內(nèi)，實際上按照民法典的規(guī)定，都屬于當事人權(quán)利人自己的人格權(quán)利，未經(jīng)允許的話，任何人是不得侵害的。不僅不能直接用，也不能使用當事人的人臉信息、聲音信息進行深度合成，不能把它放到這個深度合成的物料庫里或場景庫里。同時，通過編輯的肖像和聲音，用這種方式展現(xiàn)出的相關(guān)內(nèi)容，屬于偽造的信息，按照網(wǎng)絡(luò)安全法的規(guī)定，這個屬于違法信息。 另外，法律專家表示，使用AI合成名人的聲音發(fā)表自己的作品，有可能會追究發(fā)布者的刑事責任。
中國政法大學副教授 朱?。何唇?jīng)權(quán)利人同意去隨便使用別人的肖像和聲音，并且對外發(fā)布的話，按照民法典的規(guī)定是一種侵權(quán)責任，要承擔包括精神損害賠償在內(nèi)的相關(guān)責任。如果把相關(guān)的視頻，包括聲音編輯之后形成了相關(guān)的內(nèi)容，如果這個內(nèi)容違反了網(wǎng)絡(luò)安全法的相關(guān)規(guī)定，當事人可能要承擔包括刑事責任在內(nèi)的法律責任。 短視頻平臺應該承擔哪些責任？ AI合成公眾人物聲音制作的視頻在短視頻平臺大量傳播，針對此類亂象，短視頻平臺應該承擔哪些責任呢？ 中國政法大學副教授 朱巍：作為信息傳播平臺來講，雖然可能并不是深度合成服務(wù)的提供者，但是它主要傳播了這些深度合成產(chǎn)生的信息，它應該通過包括人工智能、人工審核的方式，發(fā)現(xiàn)一些高度懷疑是AI合成的作品，要強制性加以標記。如果發(fā)現(xiàn)利用AI合成的聲音和視頻傳播虛假消息，并不是把視頻刪掉就完了，應當對發(fā)布者采取包括信用管理在內(nèi)的強制措施，包括他的賬號的營利權(quán)限，以及一些相關(guān)的特殊權(quán)限，要根據(jù)信用的降低隨之產(chǎn)生必要的處罰措施。 AI生成合成內(nèi)容 應有明顯可感知標識 AI生成合成內(nèi)容的逼真程度已經(jīng)讓普通人難以辨別，規(guī)范這類內(nèi)容，國家也已經(jīng)開始行動。今年9月，國家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》，目前征求意見階段已經(jīng)結(jié)束。這一《辦法》明確要求，AI生成合成的內(nèi)容要在顯著位置作出標識，也就是要給它們打上“專屬水印”。
“征求意見稿”提出，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息，相關(guān)內(nèi)容標識包括顯式標識和隱式標識。顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標識。隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識。
“征求意見稿”要求，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，也就是“智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務(wù)” ，應當按照以下要求添加顯式標識： 在文本的起始、末尾、中間適當位置添加文字提示或通用符號提示等標識，或在交互場景界面或文字周邊添加顯著的提示標識； 在音頻的起始、末尾或中間適當位置添加語音提示或音頻節(jié)奏提示等標識，或在交互場景界面中添加顯著的提示標識； 在圖片的適當位置添加顯著的提示標識； 在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可在視頻末尾和中間適當位置添加顯著的提示標識； 呈現(xiàn)虛擬場景時，應當在起始畫面的適當位置添加顯著的提示標識，可在虛擬場景持續(xù)服務(wù)過程中的適當位置添加顯著的提示標識； 其他生成合成服務(wù)場景應當根據(jù)自身應用特點添加具有顯著提示效果的顯式標識。
另外還要求，用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時，應當主動聲明并使用平臺提供的標識功能進行標識。任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標識，不得為他人實施上述惡意行為提供工具或服務(wù)，不得通過不正當標識手段損害他人合法權(quán)益。 來源：央視新聞客戶端 |
