AI比人更能給情緒價(jià)值？人大教授劉永謀談AI伴侶六大風(fēng)險(xiǎn)

2024-12-20 11:39| 發(fā)布者: admin| 查看: 90| 評(píng)論: 0

摘要: 從今年清明節(jié)前后掀起的“AI復(fù)活熱”，到10月一起與AI陪伴產(chǎn)品有關(guān)的美國少年自殺訴訟案出現(xiàn)，AI陪伴服務(wù)走進(jìn)日常生活的同時(shí)，也引發(fā)了一系列有關(guān)法律倫理問題的探討。當(dāng)機(jī)器人外形越來越像“人”，功能越來越完備， ...

從今年清明節(jié)前后掀起的“AI復(fù)活熱”，到10月一起與AI陪伴產(chǎn)品有關(guān)的美國少年自殺訴訟案出現(xiàn)，AI陪伴服務(wù)走進(jìn)日常生活的同時(shí)，也引發(fā)了一系列有關(guān)法律倫理問題的探討。當(dāng)機(jī)器人外形越來越像“人”，功能越來越完備，智慧水平越來越高，未來人類如何與之相處，會(huì)產(chǎn)生哪些風(fēng)險(xiǎn)成為無法回避的問題。

12月18日，南都數(shù)字經(jīng)濟(jì)治理研究中心聯(lián)合清華大學(xué)智能法治研究院在京舉辦“第八屆啄木鳥數(shù)據(jù)治理論壇”，來自高校、集體管理組織、企業(yè)界等領(lǐng)域的專家學(xué)者圍繞“AI應(yīng)用落地提速，如何向善治理”展開探討。會(huì)上，中國人民大學(xué)哲學(xué)院教授劉永謀以“機(jī)器情感與AI陪伴的人文審度”為主題發(fā)表主旨演講。

劉永謀發(fā)表主旨演講

劉永謀首先指出，主打AI陪伴的伴侶型機(jī)器人今后或成為人工智能領(lǐng)域最賺錢的賽道之一。隨著技術(shù)發(fā)展，未來的伴侶機(jī)器人不僅能在外型上以人類想象中的完美形象呈現(xiàn)，功能齊全，還能提供足夠的情緒價(jià)值滿足人類情感需求。當(dāng)人類逐漸與機(jī)器產(chǎn)生更深度的情感交流，從人文視角看可能會(huì)帶來一系列問題。

具體而言，首先是人身安全和隱私風(fēng)險(xiǎn)。劉永謀認(rèn)為，伴侶機(jī)器人可能對人類造成傷害，比如與金屬材質(zhì)制成的機(jī)器人接吻可能會(huì)中毒；一旦程序設(shè)置失控，人類可能因機(jī)器人擁抱力度過大而受傷等等。此外，如果機(jī)器人被黑客入侵操控，可能侵犯主人隱私，甚至控制主人的行為。

其次是孤獨(dú)和恐懼情緒的增長。人與機(jī)器人的交往一旦取代人與人的交往，人類會(huì)減少社交和戶外活動(dòng)，不斷滋生孤獨(dú)情緒，甚至對原有的社會(huì)關(guān)系產(chǎn)生抵觸和抗拒心理。同時(shí)還會(huì)產(chǎn)生“恐怖谷效應(yīng)”，當(dāng)機(jī)器人與人類的相似度上升到特定臨界點(diǎn)時(shí)，人類的情感反應(yīng)會(huì)變得極其負(fù)面和反感，產(chǎn)生僵硬、恐懼的感覺。

依賴和成癮問題同樣值得重視，這一問題已經(jīng)在當(dāng)前的手機(jī)成癮現(xiàn)象中有所體現(xiàn)。手機(jī)軟件可以通過各種算法讓人對它產(chǎn)生依賴，那么“百依百順”的伴侶機(jī)器人會(huì)極大程度地加深這種感覺?！坝腥苏f以后也許會(huì)出現(xiàn)‘夫妻加一個(gè)機(jī)器人’的家庭組合模式，（我認(rèn)為）這是不可能的，這種模式會(huì)引發(fā)第三者插足等一系列婚姻矛盾和家庭矛盾?！彼f。

此外劉永謀認(rèn)為，某些情況下，AI陪伴服務(wù)還可能對人類的性道德帶來挑戰(zhàn)。與絕對服從命令的機(jī)器人相處時(shí)間過久，人與機(jī)器人之間形成的交往模式可能影響人類的基本道德判斷，比如人類出軌別人的伴侶機(jī)器人，制作一個(gè)與追求的人類對象外型一模一樣的機(jī)器人，出賣自己的機(jī)器人和別人戀愛……這些極端情形或引發(fā)十分復(fù)雜的法律和倫理問題。

在生育率下降的現(xiàn)階段，AI陪伴服務(wù)發(fā)展還可能影響人類生育。劉永謀認(rèn)為機(jī)器人伴侶的普及或進(jìn)一步降低人類的生育意愿，甚至進(jìn)入“不愛不婚不孕”的狀態(tài)。另外機(jī)器人的權(quán)利問題也不容忽視，“目前人工智能是沒有意識(shí)的，但如果某一天它真的有了意識(shí)，是不是該把它當(dāng)做人對待也值得思考?！?br>
不過，劉永謀在會(huì)上強(qiáng)調(diào)，從人文視角探討機(jī)器情感與AI陪伴的潛在風(fēng)險(xiǎn)，并不意味著反對新一代人工智能發(fā)展，而是在為科技發(fā)展保駕護(hù)航。在他看來，廣大科技從業(yè)者致力于實(shí)現(xiàn)技術(shù)迭代的同時(shí)，也應(yīng)思考探尋一條符合現(xiàn)有價(jià)值觀念和倫理觀念的人工智能發(fā)展道路。

出品：南都數(shù)字經(jīng)濟(jì)治理研究中心

采寫：南都記者樊文揚(yáng)