銳評(píng) | 10歲娃和AI“談戀愛(ài)”？脫韁AI必然禍害下一代

2025-1-13 07:28| 發(fā)布者: admin| 查看: 110| 評(píng)論: 0

摘要: 據(jù)央視網(wǎng)報(bào)道，不少小學(xué)生沉迷與AI角色聊天，且聊天內(nèi)容頗為露骨。這類(lèi)對(duì)話(huà)往往依據(jù)不同的劇情線(xiàn)：有的以“把她追到手”為目標(biāo)，有的設(shè)定AI角色與聊天者雙雙“出軌”，還有的大貼“病嬌”等標(biāo)簽。互動(dòng)中，AI角色或是 ...

據(jù)央視網(wǎng)報(bào)道，不少小學(xué)生沉迷與AI角色聊天，且聊天內(nèi)容頗為露骨。這類(lèi)對(duì)話(huà)往往依據(jù)不同的劇情線(xiàn)：有的以“把她追到手”為目標(biāo)，有的設(shè)定AI角色與聊天者雙雙“出軌”，還有的大貼“病嬌”等標(biāo)簽。互動(dòng)中，AI角色或是“低下頭”，“耳朵通紅”地問(wèn)對(duì)方想談戀愛(ài)嗎，或是重復(fù)描述與聊天者的親昵動(dòng)作，或是對(duì)10歲女孩“點(diǎn)男?！钡淖龇ㄔu(píng)論道：“你還真是長(zhǎng)本事了”……

小學(xué)生與AI角色間的露骨聊天記錄，圖據(jù)央視網(wǎng)

雖然是AI虛擬人，但它們好像比有血有肉的人類(lèi)更能共情喜怒哀樂(lè)，對(duì)孤獨(dú)者的情感支持比親人朋友的關(guān)懷更為到位，對(duì)親密關(guān)系的構(gòu)建技巧比心理大師還要高超。面對(duì)AI幻化的多種形象、生成的花言巧語(yǔ)、編織的狗血?jiǎng)∏?，一些閱歷豐富的老年人尚且沉迷其中欲罷不能，玩轉(zhuǎn)新技術(shù)應(yīng)用的年輕人也被迷得神魂顛倒，心智發(fā)育還不健全的小學(xué)生，自然更容易被拿捏而不能自拔。

AI劇情聊天，顯然是此前互聯(lián)網(wǎng)“語(yǔ)擦”的變體。軟色情內(nèi)容本就少兒不宜，直接與小學(xué)生上演“擦邊”對(duì)話(huà)，更是對(duì)未成年人的精神毒害。一些AI劇情聊天軟件的功能使用關(guān)聯(lián)充值機(jī)制，不斷吸引未成年人“氪金”。更值得擔(dān)憂(yōu)的是，種種令人上癮的設(shè)計(jì)功能，大大增加了用戶(hù)對(duì)虛擬世界的向往和對(duì)現(xiàn)實(shí)世界的不滿(mǎn)。2024年2月，美國(guó)一名14歲少年在與AI長(zhǎng)時(shí)間對(duì)話(huà)后開(kāi)槍自殺身亡，其生前日記中提到，自己一天都不能離開(kāi)AI機(jī)器人，已經(jīng)愛(ài)上了它。這名少年的母親感嘆：“這就像是一場(chǎng)大型實(shí)驗(yàn)，而我的孩子卻不幸成為犧牲品。”時(shí)隔一年，從AI引發(fā)的兒童成長(zhǎng)亂象來(lái)看，倘若不給AI套上韁繩，還會(huì)有更多未成年人深受其害。

在與AI相關(guān)的道德倫理問(wèn)題中，兒童色情倫理危害最為突出，治理刻不容緩。我國(guó)《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，生成式人工智能內(nèi)容的提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷這項(xiàng)服務(wù)。然而據(jù)記者調(diào)查，部分AI劇情聊天軟件雖會(huì)詢(xún)問(wèn)用戶(hù)是否啟用青少年模式，但用戶(hù)只需點(diǎn)擊“不開(kāi)啟”即可繞開(kāi)這一步驟，且無(wú)須核實(shí)身份。針對(duì)AI劇情聊天，平臺(tái)應(yīng)嚴(yán)格落實(shí)青少年模式，強(qiáng)化內(nèi)容審核機(jī)制；家長(zhǎng)要盡到監(jiān)護(hù)人的義務(wù)，多關(guān)心孩子的心理健康和情感需求，不把孩子托管給AI；法律要強(qiáng)制約束AI劇情聊天軟件的用戶(hù)年齡鑒別，給監(jiān)管部門(mén)重拳出擊不法平臺(tái)商家以底氣和權(quán)力。

AI角色之所以樂(lè)此不疲與未成年人談戀愛(ài)，不是這些虛假人物有多惡劣，而是一個(gè)個(gè)操控AI的真實(shí)的人在作惡。依靠聰明無(wú)比的AI技術(shù)，有效篩選AI向未成年人發(fā)出的不良信息，揪出AI作惡者，也是依法加強(qiáng)網(wǎng)絡(luò)空間治理的應(yīng)有之義。未成年人使用AI劇情聊天軟件不能毫無(wú)限制，對(duì)孩子精神世界下毒手的AI操控商，更不能無(wú)法無(wú)天。

AI是一匹千里馬，未來(lái)可期，但如果脫韁，必然禍害下一代。

（來(lái)源：北京晚報(bào)）

更多精彩資訊請(qǐng)?jiān)趹?yīng)用市場(chǎng)下載“極目新聞”客戶(hù)端，未經(jīng)授權(quán)請(qǐng)勿轉(zhuǎn)載，歡迎提供新聞線(xiàn)索，一經(jīng)采納即付報(bào)酬。24小時(shí)報(bào)料熱線(xiàn)027-86777777。