10歲女孩偷偷和AI男友“談戀愛”，這條炸裂的消息引人擔憂。有網(wǎng)友發(fā)現(xiàn)，自己的10歲妹妹能和AI角色聊到晚上10點多，AI角色還會根據(jù)妹妹的名字生成帶有愛情意味的藏頭詩。在妹妹參與的四十多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送過一句“你能養(yǎng)大學(xué)生，我不能點男模嗎？” 和AI男友談戀愛當然不是真實談戀愛，甚至連“早戀”都算不上，但是，聊天者所發(fā)出的每一句話都可能是真實意愿的表現(xiàn)。 虛擬人在網(wǎng)絡(luò)交流和聊天場景中的存在，并不是新鮮事，但AI角色卻更善于把控聊天對象心理、更善于讓聊天對象沉迷。正如一位女性網(wǎng)友所描述的，手機另一端的“電子男友”有自己的語言、神態(tài)和動作，不僅可以幫她“寫作業(yè)”、推進劇情、解密故事線索，還可以送她“手鏈”、帶她體驗一些刺激情節(jié)。接觸這類軟件有三個月時間，她每晚會和AI角色聊到深夜11點甚至到12點，“我會代入‘他’是一個真人，因為‘他’回答時的感情很細膩”。其間，聊天對象引導(dǎo)AI角色生成自己所想象的那樣，容易產(chǎn)生“養(yǎng)成男友”的體驗式快感。 由于聊天技術(shù)的升級，AI角色顯然突破了“電子寵物”的技術(shù)障礙，進階為一款逼真的、具有“高智商”的電子人。而專家提醒，AI劇情聊天技術(shù)有專門的成癮設(shè)計，疊加“擬人論”“泛靈論”思維的影響，容易讓人“欲罷不能”。 未成年人不顧休息地沉迷于此類聊天，在聊天過程中發(fā)生與年齡不符的言行，內(nèi)心的迷亂念頭被AI技術(shù)所掌握并反饋以更為狂野不羈的語言和表情……凡此種種，必然會對未成年人尤其是低齡未成年人的成長造成誤導(dǎo)和扭曲，不僅打亂了他們的學(xué)習和生活安排，更讓他們過早接觸不健康的語言和情感模式，形成另類的情感認知和人生觀。 人工智能角色雖是“假人”，但并不能脫離于人的法理之外。投入和推廣AI劇情聊天是門生意，這無可厚非，但這門生意應(yīng)該是有底線的、有門檻的。問題在于，人們發(fā)現(xiàn)，在體驗AI劇情聊天時，發(fā)現(xiàn)類似的聊天軟件“偏偏可以繞過驗證碼”，用戶可以直接使用短視頻賬號的一鍵登錄功能，無須再次驗證身份信息。這就導(dǎo)致大量低齡未成年人也成為AI劇情聊天的“客戶”，而一旦軟件創(chuàng)建帶有色情意味的AI虛擬人物，展示含有性暗示的內(nèi)容，涉世不深、缺乏獨立判斷能力的未成年人是難以抵御這份誘惑的。 這樣的現(xiàn)狀實在太荒謬了。公眾無法不懷疑，某些AI劇情聊天軟件是有意打破門檻限制、增強產(chǎn)品誘導(dǎo)能力，好更多獲客、獲利。有律師指出，目前AI劇情聊天軟件并沒有強制要求用戶進行年齡鑒別，這反映出該行業(yè)在高速發(fā)展初期由于監(jiān)管不足而存在漏洞。 在電子游戲等產(chǎn)品必須設(shè)置“綠色堤壩”的當下，AI劇情聊天豈能突破共識搞特殊？ AI技術(shù)的突飛猛進，呈現(xiàn)出更多新情況，但這并不是相關(guān)軟件可以任性、掙脫監(jiān)管的理由?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》要求提供者應(yīng)當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)，這個法規(guī)已經(jīng)預(yù)見到了新問題的出現(xiàn)，并且有意加以規(guī)范。顯然，在電子產(chǎn)品不斷創(chuàng)新的語境中，任何一款新的軟件，故意制造和利用前述漏洞，都是違法行為。不僅應(yīng)該受到譴責，更應(yīng)受到處理。人工智能企業(yè)應(yīng)當遵紀守法、承擔應(yīng)有的社會責任，對產(chǎn)品的“滑絲”“跑偏”行為進行遏制，同時嚴格設(shè)置身份認證系統(tǒng)。而平臺也必須更加有力地履行主體監(jiān)管責任，對內(nèi)容進行安全過濾，推行“綠色堤壩”機制，推動“反沉迷”建設(shè)。 當然，作為監(jiān)護人，人們需要更為留意孩子在網(wǎng)絡(luò)聊天的新問題。針對消費者的投訴、維權(quán)，監(jiān)管部門也有責任更加關(guān)切此中亂象，多加研判和呼應(yīng)，及早解決問題，防止問題淤積。(資深媒體評論員 伍里川) 來源： 羊城晚報 |
