又有人利用AI炮制災(zāi)情謠言被查處。2月8日11時許，四川省宜賓市筠連縣沐愛鎮(zhèn)金坪村2組突發(fā)山體滑坡，當救援救災(zāi)工作還在緊張地開展，一些蹭熱度的AI謠言已經(jīng)在網(wǎng)絡(luò)攪局了。 公安部網(wǎng)安局2月15日通報：近期，有網(wǎng)民為借“四川宜賓山體滑坡災(zāi)害”博取流量，使用AI技術(shù)炮制隨意捏造災(zāi)害發(fā)生的時間、地點及受災(zāi)、救災(zāi)情況，形成“四川涼山發(fā)生山體滑坡災(zāi)害”系列謠言并傳播，引發(fā)當?shù)厝罕娍只藕途W(wǎng)民質(zhì)疑，擾亂視聽。公安機關(guān)網(wǎng)安部門立即開展網(wǎng)絡(luò)謠言打處工作，涉事網(wǎng)民周某、許某鑫均被處以行政處罰。 值得注意的是，前不久西藏日喀則發(fā)生地震，也有不少AI生成的圖片以假亂真。這可能也是身處AI時代必須警惕的問題：大量由AI生成的內(nèi)容，包括文字、圖片、視頻等，和人類自己生產(chǎn)的真實信息相混合，難分彼此。其危害不只是造成社會恐慌和擾亂網(wǎng)絡(luò)傳播秩序，更在于對信息生態(tài)的污染和破壞。 監(jiān)管部門及時打擊是必須的，通報相關(guān)典型案例形成震懾也是必要的。另一方面，當類似的AI謠言層出不窮，當AI謠言成了災(zāi)害事故的寄生蟲，也需思考的是：如何從源頭上加以遏制？ 既然每逢社會關(guān)注度高、牽動人心的災(zāi)害事故出現(xiàn)，總有別有用心的人想蹭熱點、博流量，那么平臺可否立即啟動相關(guān)“應(yīng)急預案”，提前監(jiān)測和預防可能出現(xiàn)的謠言，及早掐斷傳播路徑，將其影響力壓縮在最小范圍？應(yīng)急不僅僅是對災(zāi)害、事故的應(yīng)急，還要同步到網(wǎng)絡(luò)上。 AI謠言具有仿真性和規(guī)模性的特征，且隨著技術(shù)的進步，越來越貼近人類的表達方式，越發(fā)難以辨識。一個可行的突破口是“以技制技”，甚至是“以AI制AI”。比如，完善AI生成的水印技術(shù)，實現(xiàn)對生成內(nèi)容的有效溯源；建立識別和查處AI謠言的技術(shù)性、制度性規(guī)則等。 利用AI造謠傳謠，危害性不容小覷。去年6月，浙江警方追查一則不實火災(zāi)消息，破獲了一起利用AI造謠的非法謀利案件，該團伙僅有3人，卻在一個月內(nèi)使用AI生成發(fā)布了3000多個虛假視頻。以前是造謠一張嘴，現(xiàn)在可能是千張嘴、萬張嘴。 AI應(yīng)該成為“謠言粉碎機”而不是“制造機”。有人建議強制AI學習法律，乃至所有條款，當使用者出現(xiàn)違反法律的情形時，AI可以警告提醒乃至拒絕執(zhí)行命令。人們也期盼這樣一款AI或功能：輸入某條消息，AI可以迅速找到其制作源頭，乃至梳理出整個傳播鏈條，從而方便監(jiān)管部門查處相關(guān)責任人。 說一千道一萬，無論工具怎么變，利用工具做好事或作惡的依然是人。AI的B面，同樣是人性的B面。 AI只是一種技術(shù)工具，治理AI謠言，一方面需加大打擊力度，及時斬斷炮制AI謠言的幕后黑手和背后的黑灰產(chǎn)業(yè)鏈。另一方面，也要堅持科技向上向善，將這一理念深刻融入到AI的開發(fā)與進化中，不斷完善技術(shù)和治理規(guī)則，有效擠壓網(wǎng)絡(luò)謠言和虛假信息的生存空間。 作者：澎湃首席評論員 與歸 來源： 澎湃新聞 |
