人民網(wǎng)三評(píng)“AI伴侶”之三：AI亂象需及時(shí)治理

2024-12-1 09:30| 發(fā)布者: admin| 查看: 127| 評(píng)論: 0

摘要: 崔麗麗事實(shí)上，不止“AI伴侶”存在爭(zhēng)議。隨著人工智能的快速發(fā)展，各種AI亂象也逐漸引起了大眾的關(guān)注。AI亂象頻現(xiàn)的根源在于部分主體對(duì)利用新技術(shù)工具謀取商業(yè)利益的無(wú)限度追求。為了有效遏制這種貪婪無(wú)度的逐利之心 ...

崔麗麗

事實(shí)上，不止“AI伴侶”存在爭(zhēng)議。隨著人工智能的快速發(fā)展，各種AI亂象也逐漸引起了大眾的關(guān)注。

AI亂象頻現(xiàn)的根源在于部分主體對(duì)利用新技術(shù)工具謀取商業(yè)利益的無(wú)限度追求。為了有效遏制這種貪婪無(wú)度的逐利之心，構(gòu)建一套科學(xué)合理的治理框架顯得尤為迫切。

具體而言，需要在現(xiàn)行法律法規(guī)、政策文件基礎(chǔ)上進(jìn)一步補(bǔ)充和完善針對(duì)AI應(yīng)用的監(jiān)管要求，同時(shí)明確AI相關(guān)企業(yè)、應(yīng)用方、平臺(tái)方以及個(gè)人與企業(yè)使用者的責(zé)任與義務(wù)。

目前，我國(guó)已經(jīng)出臺(tái)了一系列與人工智能相關(guān)的法律法規(guī)，如《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等。對(duì)于更廣義范圍內(nèi)的AI智能體應(yīng)用，應(yīng)進(jìn)一步加強(qiáng)AI應(yīng)用過(guò)程中的數(shù)據(jù)、算法管理。比如，數(shù)據(jù)保護(hù)與隱私安全。AI智能體在提供服務(wù)的過(guò)程中，往往會(huì)收集和處理用戶的個(gè)人信息。因此需要對(duì)相關(guān)的數(shù)據(jù)收集、存儲(chǔ)、使用等環(huán)節(jié)進(jìn)行符合個(gè)人隱私保護(hù)要求的監(jiān)管，確保用戶的隱私安全。

再如，規(guī)范AI智能體的算法設(shè)計(jì)，這直接關(guān)系到其服務(wù)的質(zhì)量和效果。為了避免算法歧視、算法偏見(jiàn)等問(wèn)題，我們需要在法律中明確算法設(shè)計(jì)的原則和要求，如公平性、透明度、可解釋性等。同時(shí)，對(duì)于涉及敏感領(lǐng)域的算法，如情感分析、心理評(píng)估等，需要進(jìn)行更為嚴(yán)格的審查和監(jiān)管。

此外，為了確保AI智能體產(chǎn)品的質(zhì)量、安全和恰當(dāng)體驗(yàn)，需要進(jìn)行認(rèn)證與評(píng)估，構(gòu)建相關(guān)的認(rèn)證、評(píng)估體系。

而對(duì)于違反相關(guān)法律法規(guī)的AI智能體生產(chǎn)及應(yīng)用的相關(guān)主體(技術(shù)提供方、應(yīng)用方、平臺(tái)方等)，還需要進(jìn)一步完善責(zé)任追究機(jī)制。在治理和監(jiān)管過(guò)程中，要明確AI相關(guān)企業(yè)、應(yīng)用方、平臺(tái)方以及個(gè)人與企業(yè)使用者等相關(guān)方在道德和倫理層面負(fù)有的社會(huì)責(zé)任與義務(wù)。同時(shí)，監(jiān)管部門(mén)和企業(yè)還需要建立相應(yīng)的投訴和舉報(bào)機(jī)制，及時(shí)妥善解決各類問(wèn)題。用戶作為最終使用者，也需要明確承擔(dān)相應(yīng)的責(zé)任和義務(wù)。用戶也需要提高自我保護(hù)意識(shí)，如定期更換密碼等。

除了法律法規(guī)的約束、各方明確責(zé)任義務(wù)外，我們還需要加強(qiáng)行業(yè)自律和監(jiān)管合作。通過(guò)相關(guān)的行業(yè)協(xié)會(huì)或組織，制定行業(yè)標(biāo)準(zhǔn)和規(guī)范，推動(dòng)行業(yè)的健康發(fā)展。同時(shí)，政府、企業(yè)、社會(huì)等各方加強(qiáng)合作，構(gòu)建面向新技術(shù)、新產(chǎn)品、新服務(wù)的共治局面。

“關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)上奮斗的主要目標(biāo)?！边@表明，技術(shù)發(fā)展應(yīng)以人類需求為核心，要確保科學(xué)成果造福人類?！癆I伴侶”、AI內(nèi)容生成及各類智能體應(yīng)用作為人工智能技術(shù)的重要應(yīng)用，其發(fā)展和監(jiān)管需要全社會(huì)的共同努力，推動(dòng)其健康、有序地發(fā)展，確保AI技術(shù)能夠更好地服務(wù)于人類社會(huì)。

相關(guān)閱讀：

人民網(wǎng)三評(píng)“AI伴侶”之一：不能忽視情感倫理

http://opinion.people.com.cn/n1/2024/1128/c1003-40370748.html

人民網(wǎng)三評(píng)“AI伴侶”之二：不能任其違法違規(guī)

http://opinion.people.com.cn/n1/2024/1129/c1003-40371602.html