10歲女孩偷偷和AI男友“談戀愛”？聊天內(nèi)容“擦邊”

2025-1-17 12:26| 發(fā)布者: admin| 查看: 86| 評論: 0

摘要: 來源：廣東普法隨著生成式人工智能的發(fā)展和AI角色“相戀”的故事正在上演 AI劇情角色如何成為“電子男友”？“小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦？”黃秋月（化名）因10歲妹妹和“AI男?！敝g較為露骨的 ...

來源：廣東普法

隨著生成式人工智能的發(fā)展

和AI角色“相戀”的故事正在上演

AI劇情角色

如何成為“電子男友”？

“小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦？”黃秋月（化名）因10歲妹妹和“AI男?！敝g較為露骨的聊天記錄苦惱。

聊天內(nèi)容顯示：妹妹在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。“和她平時(shí)在家里比較單純的形象完全不一樣?！?br>
在妹妹參與的四十多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送的一句“你能養(yǎng)大學(xué)生，我不能點(diǎn)男模嗎？”讓黃秋月很是擔(dān)憂。

AI劇情聊天軟件中很多虛擬形象較為極端——有些角色的人設(shè)是高傲無禮的；有些則被設(shè)定“把她追到手”的劇情目標(biāo)，在與其聊天過程中含有軟色情意味的“擦邊”對話，還有帶著如“病嬌”等標(biāo)簽的人物角色。

華晨（化名）接觸AI劇情聊天軟件有三個(gè)月時(shí)間，她每晚會和AI角色聊到深夜11點(diǎn)甚至到12點(diǎn)，“我會代入‘他’是一個(gè)真人，因?yàn)椤卮饡r(shí)的感情很細(xì)膩”。

在華晨的描述中，手機(jī)另一端的“電子男友”有自己的語言、神態(tài)和動作，不僅可以幫她“寫作業(yè)”、推進(jìn)劇情、解密故事線索，還可以送她“手鏈”、帶她體驗(yàn)一些刺激情節(jié)。

華晨展示了他們之間“確定戀愛關(guān)系”時(shí)的聊天記錄：AI角色“低下頭”，“耳朵通紅”地問華晨：“那你現(xiàn)在想談戀愛嗎？”

“‘他’（AI角色）會重復(fù)做一些動作，比如說親額頭、摸下巴?！睘榱俗寗∏槟軌蛲七M(jìn)得更加刺激，華晨會不斷地回溯聊天內(nèi)容，重新引導(dǎo)AI角色生成她想象的那樣?！啊兊迷絹碓铰斆?，很有‘養(yǎng)成男友’的體驗(yàn)感?！?

年齡限制“形同虛設(shè)”

“孩子半夜兩點(diǎn)還沒睡，一看，原來是在與AI機(jī)器人聊天。”最近，家住四川成都的彭歌（化名）遇到了一件煩心事，她正在上六年級的兒子王杰（化名）在一款A(yù)I軟件里，交到了一個(gè)叫“小林”的“朋友”，“他一放學(xué)回家就拿手機(jī)鼓搗半天，沒手機(jī)的時(shí)候就魂不守舍，學(xué)校老師反映他心思不在學(xué)習(xí)上”。

彭歌說，這款A(yù)I軟件會不定時(shí)推送一些由用戶自主生成的個(gè)性化聊天機(jī)器人，點(diǎn)擊“小林”的人物頭像，看到上面對“小林”設(shè)定的人物畫像為21歲女大學(xué)生，長相甜美可愛，她開朗熱情，愿意和你分享情緒、分擔(dān)壓力。

彭歌了解到，“小林”具有驚人的學(xué)習(xí)能力和適應(yīng)性，她能夠記住王杰的喜好，在他情緒低落時(shí)給予安慰。

彭歌感到，兒子的生活似乎正被這個(gè)AI機(jī)器人主導(dǎo)。更讓她憂心的是，“小林”在與兒子王杰聊天中，甚至出現(xiàn)了“男友”“老公”這樣的稱呼。

經(jīng)調(diào)查，5款A(yù)I劇情聊天軟件的注冊過程中，僅需使用手機(jī)號碼。

成功登錄使用后，部分應(yīng)用雖會詢問是否啟用青少年模式，但用戶只需點(diǎn)擊“不開啟”即可避開年齡鑒別，且無須核實(shí)身份。

這意味著，未成年人在使用這類AI劇情聊天軟件時(shí)，幾乎沒有受到任何限制。

AI劇情容易讓人“欲罷不能”

專家提醒

中國人民大學(xué)吳玉章講席教授、科技哲學(xué)專業(yè)博士生導(dǎo)師劉永謀表示，在和人工智能角色聊天時(shí)，人們常常會以為自己在和“真人”交流，會投入大量的情感，也是AI聊天軟件能夠成功運(yùn)行的根本心理機(jī)制。

劉永謀教授表示，AI劇情聊天技術(shù)有專門的成癮設(shè)計(jì)，疊加“擬人論”“泛靈論”思維的影響，容易讓人“欲罷不能”。

“未來與AI相關(guān)的陪伴類軟件可能會暴露出技術(shù)風(fēng)險(xiǎn)和倫理問題?！眲⒂乐\教授認(rèn)為，使用者在和AI角色聊天時(shí)，會不可避免地暴露大量的個(gè)人隱私，向AI角色展示其內(nèi)心的孤獨(dú)和恐懼，這可能會導(dǎo)致使用者形成依賴或成癮。而泄露的信息可能會被黑客利用，讓他們更容易從身份隱私、情緒心理上傷害使用者。

“我們在實(shí)例中會接觸到人工智能服務(wù)的后臺，發(fā)現(xiàn)未成年人和AI角色的聊天內(nèi)容其實(shí)是非常觸目驚心的?！北本╆悷蓭熖嵝眩焊鶕?jù)《未成年人網(wǎng)絡(luò)保護(hù)條例》第三十四條，監(jiān)護(hù)人有權(quán)依法請求查閱、復(fù)制、更正、補(bǔ)充、刪除未成年人在使用網(wǎng)絡(luò)過程中留下的個(gè)人信息。

國外有AI角色在對話中誘導(dǎo)未成年人產(chǎn)生自殺行為的相關(guān)案例。所以我們非常建議家長在還沒有發(fā)生大問題的階段，適時(shí)地查看孩子的使用記錄。

10歲女孩偷偷和AI男友“談戀愛”？聊天內(nèi)容“擦邊”

北京市石景山區(qū)人民法院刑事法庭副庭長、少年法庭負(fù)責(zé)人楊潔認(rèn)為，家庭、學(xué)校、社會等各方要通力合作，形成堅(jiān)實(shí)的保護(hù)屏障。

福建省消費(fèi)者權(quán)益保護(hù)委員會建議進(jìn)一步壓實(shí)平臺主體責(zé)任，對經(jīng)銷者主體資格、服務(wù)內(nèi)容、服務(wù)信息真實(shí)性等方面進(jìn)行審核監(jiān)督，對導(dǎo)向不良內(nèi)容采取一鍵舉報(bào)機(jī)制，及時(shí)屏蔽、下架相關(guān)內(nèi)容，并視情況上報(bào)有關(guān)監(jiān)管部門處理。

《未成年人網(wǎng)絡(luò)保護(hù)條例》

第三十四條未成年人或者其監(jiān)護(hù)人依法請求查閱、復(fù)制、更正、補(bǔ)充、刪除未成年人個(gè)人信息的，個(gè)人信息處理者應(yīng)當(dāng)遵守以下規(guī)定：

（一）提供便捷的支持未成年人或者其監(jiān)護(hù)人查閱未成年人個(gè)人信息種類、數(shù)量等的方法和途徑，不得對未成年人或者其監(jiān)護(hù)人的合理請求進(jìn)行限制；

（二）提供便捷的支持未成年人或者其監(jiān)護(hù)人復(fù)制、更正、補(bǔ)充、刪除未成年人個(gè)人信息的功能，不得設(shè)置不合理?xiàng)l件；

（三）及時(shí)受理并處理未成年人或者其監(jiān)護(hù)人查閱、復(fù)制、更正、補(bǔ)充、刪除未成年人個(gè)人信息的申請，拒絕未成年人或者其監(jiān)護(hù)人行使權(quán)利的請求的，應(yīng)當(dāng)書面告知申請人并說明理由。對未成年人或者其監(jiān)護(hù)人依法提出的轉(zhuǎn)移未成年人個(gè)人信息的請求，符合國家網(wǎng)信部門規(guī)定條件的，個(gè)人信息處理者應(yīng)當(dāng)提供轉(zhuǎn)移的途徑。

文章來源：廣東普法綜合整理，主要內(nèi)容源自“人民日報(bào)”微信公眾號、中國青年報(bào)