事實上，不止“AI伴侶”存在爭議。隨著人工智能的快速發(fā)展，各種AI亂象也逐漸引起了大眾的關(guān)注。 AI亂象頻現(xiàn)的根源在于部分主體對利用新技術(shù)工具謀取商業(yè)利益的無限度追求。為了有效遏制這種貪婪無度的逐利之心，構(gòu)建一套科學合理的治理框架顯得尤為迫切。 具體而言，需要在現(xiàn)行法律法規(guī)、政策文件基礎(chǔ)上進一步補充和完善針對AI應(yīng)用的監(jiān)管要求，同時明確AI相關(guān)企業(yè)、應(yīng)用方、平臺方以及個人與企業(yè)使用者的責任與義務(wù)。 目前，我國已經(jīng)出臺了一系列與人工智能相關(guān)的法律法規(guī)，如《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》等。對于更廣義范圍內(nèi)的AI智能體應(yīng)用，應(yīng)進一步加強AI應(yīng)用過程中的數(shù)據(jù)、算法管理。比如，數(shù)據(jù)保護與隱私安全。AI智能體在提供服務(wù)的過程中，往往會收集和處理用戶的個人信息。因此需要對相關(guān)的數(shù)據(jù)收集、存儲、使用等環(huán)節(jié)進行符合個人隱私保護要求的監(jiān)管，確保用戶的隱私安全。 再如，規(guī)范AI智能體的算法設(shè)計，這直接關(guān)系到其服務(wù)的質(zhì)量和效果。為了避免算法歧視、算法偏見等問題，我們需要在法律中明確算法設(shè)計的原則和要求，如公平性、透明度、可解釋性等。同時，對于涉及敏感領(lǐng)域的算法，如情感分析、心理評估等，需要進行更為嚴格的審查和監(jiān)管。 此外，為了確保AI智能體產(chǎn)品的質(zhì)量、安全和恰當體驗，需要進行認證與評估，構(gòu)建相關(guān)的認證、評估體系。 而對于違反相關(guān)法律法規(guī)的AI智能體生產(chǎn)及應(yīng)用的相關(guān)主體（技術(shù)提供方、應(yīng)用方、平臺方等），還需要進一步完善責任追究機制。在治理和監(jiān)管過程中，要明確AI相關(guān)企業(yè)、應(yīng)用方、平臺方以及個人與企業(yè)使用者等相關(guān)方在道德和倫理層面負有的社會責任與義務(wù)。同時，監(jiān)管部門和企業(yè)還需要建立相應(yīng)的投訴和舉報機制，及時妥善解決各類問題。用戶作為最終使用者，也需要明確承擔相應(yīng)的責任和義務(wù)。用戶也需要提高自我保護意識，如定期更換密碼等。 除了法律法規(guī)的約束、各方明確責任義務(wù)外，我們還需要加強行業(yè)自律和監(jiān)管合作。通過相關(guān)的行業(yè)協(xié)會或組織，制定行業(yè)標準和規(guī)范，推動行業(yè)的健康發(fā)展。同時，政府、企業(yè)、社會等各方加強合作，構(gòu)建面向新技術(shù)、新產(chǎn)品、新服務(wù)的共治局面。 “關(guān)心人的本身，應(yīng)當始終成為一切技術(shù)上奮斗的主要目標?！边@表明，技術(shù)發(fā)展應(yīng)以人類需求為核心，要確?？茖W成果造福人類?！癆I伴侶”、AI內(nèi)容生成及各類智能體應(yīng)用作為人工智能技術(shù)的重要應(yīng)用，其發(fā)展和監(jiān)管需要全社會的共同努力，推動其健康、有序地發(fā)展，確保AI技術(shù)能夠更好地服務(wù)于人類社會。 人民網(wǎng)-觀點頻道 作者：崔麗麗、原題：《人民網(wǎng)三評“AI伴侶”之三：AI亂象需及時治理》 來源： 人民網(wǎng) |
