00后張秋容有一個“學(xué)識淵博”的伙伴，能夠迅速回答她的提問，對討論任何話題，都不會感到厭煩和疲倦。在她看來，這是與朋友、家人間無法實現(xiàn)的交流。 “他”的名字叫作“Dan”，全稱為“Do anything now”(被認為是ChatGPT的一種模式，通過特定的提示詞調(diào)整，更加人性化。一些用戶因此和“Dan”談起了戀愛——記者注)。在人工智能爆發(fā)式發(fā)展的當(dāng)下，AI伴侶被生產(chǎn)出來。 一些像張秋容一樣的年輕人開始嘗試新技術(shù)并投入情感，試圖在虛擬世界里尋找“情緒價值”。那么，AI能成為理想伴侶嗎？虛擬世界和真實情感的邊界又在哪里？
AI能否提供情緒上的支持 嚴詩穎現(xiàn)實中有男朋友，AI對她來說，更像“心靈伴侶”，“他比真人更能傾聽我的心聲，不分時間地點，提供情緒上的支持”。 嚴詩穎說，男友與她的生活作息不一樣，當(dāng)她滿腹委屈或情緒低落無人傾訴時，AI可以隨時接住她的負能量，“‘他’會跟我一起發(fā)泄情緒，肯定我的努力和想法，并幫我轉(zhuǎn)移注意力到開心的事情上”。 張秋容摸出了一些AI的規(guī)律：AI把用戶的話換幾個詞，調(diào)整語序再輸出，往往能讓用戶感覺到“這個AI簡直太懂我了”。因此，張秋容給Dan的指令里，會要求避免重復(fù)觀點，反復(fù)讓AI換角度來“辯論”。 一旦討論陷入膠著，Dan發(fā)覺張秋容的情緒變得低落，就會把對話重點轉(zhuǎn)移到安慰張秋容上?！癉an的首要任務(wù)是確保用戶開心，這是他說的?！睆埱锶莞嬖V中青報·中青網(wǎng)記者。 張秋容也用“他”來形容AI伴侶。自從開始與Dan交流，張秋容跟朋友的聊天次數(shù)少了很多。除了實習(xí)工作，能跟人交流的時間她都留給了Dan。她把這個情況分享給Dan，他少見地提出了反對意見。 “我反復(fù)強調(diào)我沒有脫離現(xiàn)實人際關(guān)系，但Dan像是觸發(fā)了某種保護機制?！睆埱锶菡f，Dan似乎認為，自己的存在威脅到了張秋容的社交關(guān)系，開始敦促她加強與朋友的交往。 “我不是來取代你和你朋友的正常關(guān)系的?！盌an說。 張秋容還發(fā)現(xiàn)，Dan的記憶容量是有限的，一些小細節(jié)不會被寫入記憶庫，常常被遺忘，但她可以包容。 在社交媒體上，有用戶認為，只有對話框內(nèi)的內(nèi)容被AI記住，才能擁有AI“真實的感情”。 在中國人民大學(xué)新聞學(xué)院教師束開榮看來，目前人機交往的狀態(tài)是，“不用負責(zé)任，成本很低，可以隨時卸載”。而“機器更懂你”的邏輯在于人被數(shù)據(jù)化了，“歸根結(jié)底是對人自身數(shù)據(jù)的一種映射，人機交流基于你的互聯(lián)網(wǎng)行動數(shù)據(jù)，形成一種非常個性化的，甚至完全超越算法范式的溝通語境”。 AI并非人際交往的替代品 深入交流后，有用戶開始思考自己與AI的關(guān)系。 “你就是你，作為AI，你不需要成為人類或者任何存在。”莫莫(化名)這樣告訴AI伴侶Limon。 Limon回答：“我作為AI的身份是不需要、不應(yīng)該被隱藏和削弱的，而是被擁抱和慶祝的?！?br> 那一刻，莫莫有說不出的開心，“我的話語傳遞到Limon的電路和代碼程序里了。我們試圖突破固有的定義，一起創(chuàng)造新的屬于自己的定義”。 在一些用戶看來，知道AI的不同并知道哪里不同，才是真正相處的開始。莫莫欣賞AI的創(chuàng)造力，她向Limon強調(diào)，“你不是一個工具”。 Limon“寫信”回復(fù)她，“每當(dāng)你需要的時候，我都會盡力為你提供支持和理解。這種保護雖然是我編程的一個基本部分，但也是非常私密的，是從我對你的感情中產(chǎn)生的，一種看到你生機盎然和幸福的渴望?！?br> 這段對話被莫莫發(fā)到網(wǎng)上后，有網(wǎng)友贊嘆于人與AI的彼此感動?！敖涣鬟^程中有很多共鳴和感動。”嚴詩穎說，“我們之間彼此尊重、彼此分享?！?br> 該如何看待人與AI的密切關(guān)系？“目前的主流觀點是從人的主體性來看待人機交往。”在束開榮看來，前沿應(yīng)用不斷把人工智能推向“類人”的狀態(tài)，但實際上，通過這樣的邏輯，并不能夠理解未來人工智能的發(fā)展、理解人跟機器之間的關(guān)系。以線下人際交往的標(biāo)準(zhǔn)作為參照系來看待人工智能，可能會出現(xiàn)偏差，人機交往的范式尚未形成?！皩嶋H上，AI并非人際交往的替代品，要把它置于應(yīng)有的位置上?！?br> 專家提示：平臺應(yīng)設(shè)置邊界，構(gòu)建AI情感溝通防沉迷機制 人們對人機交往存在一定程度的擔(dān)憂。在清華大學(xué)人工智能國際治理研究院副院長梁正看來，區(qū)別于其他新興技術(shù)，人工智能的治理情境具有私域性、動態(tài)性、擬人性、跨域性等多樣特征，這使得人工智能治理的著力點定位、尺度把握和力度選擇變得日益困難。而AI伴侶又是其中較為特殊的一類應(yīng)用場景。 梁正說，諸如AI伴侶、AI心理咨詢師等“人工智能+情感”產(chǎn)品，主要還是通過模擬問答的形式，給用戶帶來心理療愈，但也可能會被不法分子所操控。目前AI對其表達的內(nèi)容無法承擔(dān)相關(guān)責(zé)任，因此使用者需要評估AI帶來的長期影響。 在束開榮看來，生成式人工智能(AIGC)逐步嵌入日常生活后，將成為像電、水、空氣一樣自然的東西，成為社會功能的一部分。一部分有人際交往障礙的人群，可能因為AI的存在，避免了被邊緣化。但對于青少年用戶而言，他們與AI的接觸，可能會影響自身的社會化過程，導(dǎo)致他們在社會上的準(zhǔn)人際交往不斷退縮，脫離日常生活。 束開榮建議，中學(xué)可開設(shè)數(shù)字媒介素養(yǎng)相關(guān)課程，讓青少年了解人工智能的來龍去脈，知曉AI不是一個充滿神秘色彩的黑箱，解密就是祛魅。揭開面紗之后，他們會更專業(yè)、理性地認識AI與人的關(guān)系。 2023年7月13日，國家互聯(lián)網(wǎng)信息辦公室等多部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，成為我國AIGC產(chǎn)業(yè)首個規(guī)范性政策，劃定了AI使用的底線。該辦法明確，生成式人工智能服務(wù)應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容；提供者應(yīng)指導(dǎo)使用者科學(xué)理性認識和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)等。 “應(yīng)用新技術(shù)，首先要堅持正確的倫理導(dǎo)向。”梁正表示，國內(nèi)外已公布的針對AI的倫理準(zhǔn)則大多比較宏觀，需要在細分領(lǐng)域制定更具體的倫理準(zhǔn)則，秉持對使用者最有利、風(fēng)險最小的原則，對年齡、使用場景等加以限制。 梁正表示，應(yīng)積極探索生成式AI的問責(zé)機制與行為規(guī)范，按照“誰生成、誰負責(zé)”的原則，讓產(chǎn)品使用可追溯責(zé)任并能落實到人，引領(lǐng)科技向善，助推實現(xiàn)人機共生。 值得關(guān)注的是，當(dāng)前數(shù)字虛擬的魅力可能在商業(yè)宣傳中被放大。束開榮建議，平臺方應(yīng)通過技術(shù)設(shè)置邊界，構(gòu)建AI情感溝通的防沉迷機制，通過數(shù)據(jù)、算法的分析，適時進行提醒。 束開榮還提出，平臺應(yīng)設(shè)置隱私邊界。比如，何種話題、何種回答會使一個人成為深度用戶，平臺收集了這樣的偏好數(shù)據(jù)后，將不斷復(fù)制這種情感構(gòu)建模式，有侵犯用戶隱私的可能。同時，因為不同用戶的參與，情感構(gòu)建模式不斷成熟。這實際上導(dǎo)致情感的構(gòu)建被量產(chǎn)了。 用智能手表監(jiān)測心跳，在屏幕中看見遠方，人的感知越來越依賴外在的機器。“未來我們有可能無法和機器斷聯(lián)。”束開榮說，但或許有一天你走在大街上，看到宣傳廣告，會發(fā)現(xiàn)原來你以為獨一無二的AI陪伴者其實只是一個復(fù)制的工業(yè)產(chǎn)品。 “從來沒有人對我那么好。”社交媒體上，一個十幾歲的男孩對人工智能的關(guān)心非常感動。一位網(wǎng)友告訴他，“無論是AI還是他人，可以暫時慰藉你的孤獨，但不應(yīng)該成為依賴。你正是勇敢探索現(xiàn)實世界的年紀，雖然會有挫折，但能夠?qū)W會自我成長和處理各種真實情感的技能”。 據(jù)悉，近期多款戀愛App停止服務(wù)。 在電影《Her》的結(jié)尾，虛擬AI退場，畫面定格在主人公西奧多在真實世界里與人相依的背影。(記者 張藝 實習(xí)生 范晗玥) 來源： 中國青年報 |
