D-Think | 東遠(yuǎn)科技-廣州東遠(yuǎn)智能科技有限公司- › 首頁 ›資訊› 科技頭條 › 查看內(nèi)容

馬上評(píng)｜AI應(yīng)成謠言“粉碎機(jī)”而非“制造機(jī)”

2025-2-16 09:28| 發(fā)布者: admin| 查看: 133| 評(píng)論: 0

摘要: 又有人利用AI炮制災(zāi)情謠言被查處。2月8日11時(shí)許，四川省宜賓市筠連縣沐愛鎮(zhèn)金坪村2組突發(fā)山體滑坡，當(dāng)救援救災(zāi)工作還在緊張地開展，一些蹭熱度的AI謠言已經(jīng)在網(wǎng)絡(luò)攪局了。公安部網(wǎng)安局2月15日通報(bào)：近期，有網(wǎng)民為借 ...

又有人利用AI炮制災(zāi)情謠言被查處。2月8日11時(shí)許，四川省宜賓市筠連縣沐愛鎮(zhèn)金坪村2組突發(fā)山體滑坡，當(dāng)救援救災(zāi)工作還在緊張地開展，一些蹭熱度的AI謠言已經(jīng)在網(wǎng)絡(luò)攪局了。

公安部網(wǎng)安局2月15日通報(bào)：近期，有網(wǎng)民為借“四川宜賓山體滑坡災(zāi)害”博取流量，使用AI技術(shù)炮制隨意捏造災(zāi)害發(fā)生的時(shí)間、地點(diǎn)及受災(zāi)、救災(zāi)情況，形成“四川涼山發(fā)生山體滑坡災(zāi)害”系列謠言并傳播，引發(fā)當(dāng)?shù)厝罕娍只藕途W(wǎng)民質(zhì)疑，擾亂視聽。公安機(jī)關(guān)網(wǎng)安部門立即開展網(wǎng)絡(luò)謠言打處工作，涉事網(wǎng)民周某、許某鑫均被處以行政處罰。

值得注意的是，前不久西藏日喀則發(fā)生地震，也有不少AI生成的圖片以假亂真。這可能也是身處AI時(shí)代必須警惕的問題：大量由AI生成的內(nèi)容，包括文字、圖片、視頻等，和人類自己生產(chǎn)的真實(shí)信息相混合，難分彼此。其危害不只是造成社會(huì)恐慌和擾亂網(wǎng)絡(luò)傳播秩序，更在于對(duì)信息生態(tài)的污染和破壞。

監(jiān)管部門及時(shí)打擊是必須的，通報(bào)相關(guān)典型案例形成震懾也是必要的。另一方面，當(dāng)類似的AI謠言層出不窮，當(dāng)AI謠言成了災(zāi)害事故的寄生蟲，也需思考的是：如何從源頭上加以遏制？

既然每逢社會(huì)關(guān)注度高、牽動(dòng)人心的災(zāi)害事故出現(xiàn)，總有別有用心的人想蹭熱點(diǎn)、博流量，那么平臺(tái)可否立即啟動(dòng)相關(guān)“應(yīng)急預(yù)案”，提前監(jiān)測(cè)和預(yù)防可能出現(xiàn)的謠言，及早掐斷傳播路徑，將其影響力壓縮在最小范圍？應(yīng)急不僅僅是對(duì)災(zāi)害、事故的應(yīng)急，還要同步到網(wǎng)絡(luò)上。

AI謠言具有仿真性和規(guī)模性的特征，且隨著技術(shù)的進(jìn)步，越來越貼近人類的表達(dá)方式，越發(fā)難以辨識(shí)。一個(gè)可行的突破口是“以技制技”，甚至是“以AI制AI”。比如，完善AI生成的水印技術(shù)，實(shí)現(xiàn)對(duì)生成內(nèi)容的有效溯源；建立識(shí)別和查處AI謠言的技術(shù)性、制度性規(guī)則等。

利用AI造謠傳謠，危害性不容小覷。去年6月，浙江警方追查一則不實(shí)火災(zāi)消息，破獲了一起利用AI造謠的非法謀利案件，該團(tuán)伙僅有3人，卻在一個(gè)月內(nèi)使用AI生成發(fā)布了3000多個(gè)虛假視頻。以前是造謠一張嘴，現(xiàn)在可能是千張嘴、萬張嘴。

AI應(yīng)該成為“謠言粉碎機(jī)”而不是“制造機(jī)”。有人建議強(qiáng)制AI學(xué)習(xí)法律，乃至所有條款，當(dāng)使用者出現(xiàn)違反法律的情形時(shí)，AI可以警告提醒乃至拒絕執(zhí)行命令。人們也期盼這樣一款A(yù)I或功能：輸入某條消息，AI可以迅速找到其制作源頭，乃至梳理出整個(gè)傳播鏈條，從而方便監(jiān)管部門查處相關(guān)責(zé)任人。

說一千道一萬，無論工具怎么變，利用工具做好事或作惡的依然是人。AI的B面，同樣是人性的B面。

AI只是一種技術(shù)工具，治理AI謠言，一方面需加大打擊力度，及時(shí)斬?cái)嗯谥艫I謠言的幕后黑手和背后的黑灰產(chǎn)業(yè)鏈。另一方面，也要堅(jiān)持科技向上向善，將這一理念深刻融入到AI的開發(fā)與進(jìn)化中，不斷完善技術(shù)和治理規(guī)則，有效擠壓網(wǎng)絡(luò)謠言和虛假信息的生存空間。

澎湃首席評(píng)論員與歸

(本文來自澎湃新聞，更多原創(chuàng)資訊請(qǐng)下載“澎湃新聞”APP)