“自2025年起，寧波市將免費(fèi)乘坐公交車的年齡從70周歲降低至65周歲……”記者使用三款人工智能軟件詢問“寧波公交年滿65歲優(yōu)惠政策”這一問題，得到的三個(gè)回答中僅有一個(gè)正確，而上述答案則是假消息。（見1月5日《寧波晚報(bào)》） 生成式AI技術(shù)讓文本、圖片、視頻等創(chuàng)作變得輕而易舉，然而，AI創(chuàng)作出的作品也存在良莠不齊、低級(jí)錯(cuò)誤頻出等情況，甚至?xí)a(chǎn)生“AI幻覺”，輸出大量假消息、內(nèi)容垃圾。上述關(guān)于“寧波公交車年滿65歲優(yōu)惠政策”的“AI說謊”事件，就是典型。現(xiàn)實(shí)中，一些AI軟件搜索微信公眾號(hào)、短視頻平臺(tái)中的內(nèi)容后再將其匯總整理，作為答案交給用戶。這些源頭信息并非出自權(quán)威渠道，其中一些真實(shí)度、可信度偏低，而AI軟件缺乏辨識(shí)信息真?zhèn)蔚哪芰?，其提供的答案往往成為“真?shí)的謊言”。一些AI軟件還會(huì)迎合、討好用戶，根據(jù)用戶給出提示信息的變化而隨時(shí)改變立場(chǎng)和答案，甚至編造虛假內(nèi)容。 AI內(nèi)容垃圾泛濫不僅會(huì)誤導(dǎo)用戶，還可能對(duì)AI大模型的未來發(fā)展構(gòu)成實(shí)質(zhì)性威脅。當(dāng)高質(zhì)量原始數(shù)據(jù)急劇減少，AI模型為滿足龐大的使用需求，會(huì)轉(zhuǎn)而抓取大量數(shù)據(jù)進(jìn)行訓(xùn)練，一旦被內(nèi)容垃圾充斥的低質(zhì)量數(shù)據(jù)不斷增加，模型輸出的數(shù)據(jù)質(zhì)量也會(huì)有下降風(fēng)險(xiǎn)，進(jìn)而帶來“假作真時(shí)真亦假”的可怕后果。 AI軟件已不是第一次被吐槽“一本正經(jīng)地胡說八道”，這種現(xiàn)象亟待引起警惕與重視。對(duì)用戶而言，不宜過度依賴AI軟件，在查詢相關(guān)重要信息時(shí),要通過權(quán)威渠道獲得真實(shí)可靠答案；在獲取AI生成內(nèi)容后也要有進(jìn)一步核實(shí)真?zhèn)蔚囊庾R(shí)，謹(jǐn)慎擴(kuò)散轉(zhuǎn)發(fā)，避免觸碰造謠傳謠的法律紅線。對(duì)AI軟件開發(fā)商而言，則須持續(xù)迭代升級(jí)技術(shù)，精準(zhǔn)篩選可靠信源，提高AI模型的邏輯推理判斷、信息甄別能力。監(jiān)管部門亦應(yīng)及時(shí)出臺(tái)規(guī)范標(biāo)準(zhǔn)，研判用戶的反饋和投訴，督促AI平臺(tái)、軟件開發(fā)商盡快堵漏、升級(jí)，同時(shí)嚴(yán)懲相關(guān)違法違規(guī)行為。 讓信息的生成和獲取更便捷、讓技術(shù)賦能千行百業(yè)……這是人們對(duì)AI技術(shù)的美好憧憬，而動(dòng)輒被其忽悠的不良體驗(yàn)，顯然讓這份美好打了折扣。但愿“AI說謊”能盡快成為過去時(shí)，讓AI技術(shù)在社會(huì)生活中發(fā)揮更多正向作用。(江德斌) 來源： 工人日?qǐng)?bào) |
