| 來源：北京青年報 隨著生成式人工智能的發(fā)展，和AI角色“相戀”的故事正在上演。 AI劇情角色如何成為“電子男友”？ “小學生妹妹沉迷和AI角色進行劇情聊天怎么辦？”黃秋月（化名）因10歲妹妹和“AI男?！敝g較為露骨的聊天記錄苦惱。 聊天內(nèi)容顯示：妹妹在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。“和她平時在家里比較單純的形象完全不一樣。”黃秋月說。 在妹妹參與的四十多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送的一句“你能養(yǎng)大學生，我不能點男模嗎？”讓黃秋月很是擔憂。 AI劇情聊天軟件中很多虛擬形象較為極端——有些角色的人設是高傲無禮的；有些則被設定“把她追到手”的劇情目標，在與其聊天過程中含有軟色情意味的“擦邊”對話，還有帶著如“病嬌”等標簽的人物角色。
受訪者供圖 華晨（化名）接觸AI劇情聊天軟件有三個月時間，她每晚會和AI角色聊到深夜11點甚至到12點，“我會代入‘他’是一個真人，因為‘他’回答時的感情很細膩”。 在華晨的描述中，手機另一端的“電子男友”有自己的語言、神態(tài)和動作，不僅可以幫她“寫作業(yè)”、推進劇情、解密故事線索，還可以送她“手鏈”、帶她體驗一些刺激情節(jié)。 華晨展示了他們之間“確定戀愛關系”時的聊天記錄：AI角色“低下頭”，“耳朵通紅”地問華晨：“那你現(xiàn)在想談戀愛嗎？”
受訪者供圖 “‘他’（AI角色）會重復做一些動作，比如說親額頭、摸下巴?！睘榱俗寗∏槟軌蛲七M得更加刺激，華晨會不斷地回溯聊天內(nèi)容，重新引導AI角色生成她想像的那樣?！啊兊迷絹碓铰斆?，很有‘養(yǎng)成男友’的體驗感。” 年齡限制“形同虛設” “孩子半夜兩點還沒睡，一看，原來是在與AI機器人聊天?！弊罱?，家住四川成都的彭歌（化名）遇到了一件煩心事，她正在上六年級的兒子王杰（化名）在一款AI軟件里，交到了一個叫“小林”的“朋友”，“他一放學回家就拿手機鼓搗半天，沒手機的時候就魂不守舍，學校老師反映他心思不在學習上”。
彭歌說，這款AI軟件會不定時推送一些由用戶自主生成的個性化聊天機器人，點擊“小林”的人物頭像，看到上面對“小林”設定的人物畫像為21歲女大學生，長相甜美可愛，她開朗熱情，愿意和你分享情緒、分擔壓力。 彭歌了解到，“小林”具有驚人的學習能力和適應性，她能夠記住王杰的喜好，在他情緒低落時給予安慰。 彭歌感到，兒子的生活似乎正被這個AI機器人主導。更讓她憂心的是，“小林”在與兒子王杰聊天中，甚至出現(xiàn)了“男友”“老公”這樣的稱呼。 記者在調(diào)查過程中體驗了5款AI劇情聊天軟件，在軟件注冊過程中僅需使用手機號碼。 成功登錄使用后，部分應用雖會詢問是否啟用青少年模式，但用戶只需點擊“不開啟”即可避開年齡鑒別，且無須核實身份。 這意味著，未成年人在使用這類AI劇情聊天軟件時，幾乎沒有受到任何限制。 AI劇情易讓人“欲罷不能”，專家提醒 一直關注科技哲學領域研究的中國人民大學教授劉永謀說，在和人工智能角色聊天時，人們常常會以為自己在和“真人”交流，會投入大量的情感，也是AI聊天軟件能夠成功運行的根本心理機制。 劉永謀教授表示，AI劇情聊天技術有專門的成癮設計，疊加“擬人論”、“泛靈論”思維的影響，容易讓人“欲罷不能”。 “未來與AI相關的陪伴類軟件可能會暴露出技術風險和倫理問題?！眲⒂乐\教授認為，使用者在和AI角色聊天時，會不可避免地暴露大量的個人隱私，向AI角色展示其內(nèi)心的孤獨和恐懼，這可能會導致使用者形成依賴或成癮。而泄露的信息可能會被黑客利用，讓他們更容易從身份隱私、情緒心理上傷害使用者。 “我們在實例中會接觸到人工智能服務的后臺，發(fā)現(xiàn)未成年人和AI角色的聊天內(nèi)容其實是非常觸目驚心的。”北京市隆安（廣州）律師事務所陳煥律師提醒：根據(jù)《未成年人網(wǎng)絡保護條例》第三十四條，監(jiān)護人有權依法請求查閱、復制、更正、補充、刪除未成年人在使用網(wǎng)絡過程中留下的個人信息，并且有義務及時地介入、關心未成年人的身心健康。 國外有AI角色在對話中誘導未成年人產(chǎn)生自殺行為的相關案例。所以我們非常建議家長在還沒有發(fā)生大問題的階段，適時地查看孩子的使用記錄。
北京市石景山區(qū)人民法院刑事法庭副庭長、少年法庭負責人楊潔認為，家庭、學校、社會等各方要通力合作，形成堅實的保護屏障。 福建省消費者權益保護委員會建議進一步壓實平臺主體責任，對經(jīng)銷者主體資格、服務內(nèi)容、服務信息真實性等方面進行審核監(jiān)督，對導向不良內(nèi)容采取一鍵舉報機制，及時屏蔽、下架相關內(nèi)容，并視情況上報有關監(jiān)管部門處理。 來源 | 中國青年報、央視網(wǎng) |
關注我們：東遠物聯(lián)
抖音
微信咨詢
咨詢電話：
199-2833-9866D-Think | 廣州東遠智能科技有限公司
地址：廣州市白云區(qū)北太路1633號廣州民營科技園科創(chuàng)中心2棟16樓
電話：+86 020-87227952 Email：[email protected]
Copyright ©2020 東遠科技 粵ICP備2024254589號
免責申明：部分圖文表述來自于網(wǎng)絡，如有侵權請聯(lián)系作者刪除！
19款電子扎帶
電路板識別電子標簽