人工智能應該“負責任” 全球協(xié)作是AI治理的關鍵

2024-11-25 08:42| 發(fā)布者: admin| 查看: 91| 評論: 0

摘要: AI詐騙頻發(fā)，名人屢被“冒充”，青少年與AI對話后自殺……AI技術發(fā)展過程中，安全挑戰(zhàn)一直如影隨形。如何確?！癆I向善”，發(fā)展負責任的人工智能？11月21日，2024世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會人工智能負責任開發(fā)與應用論壇 ...

AI詐騙頻發(fā)，名人屢被“冒充”，青少年與AI對話后自殺……AI技術發(fā)展過程中，安全挑戰(zhàn)一直如影隨形。如何確?！癆I向善”，發(fā)展負責任的人工智能？11月21日，2024世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會人工智能負責任開發(fā)與應用論壇在浙江烏鎮(zhèn)舉行，來自政、產(chǎn)、學、媒的多位與會嘉賓對此作了深度討論。

中國國家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏、浙江省人民政府副省長張雁云出席論壇并致辭。人民網(wǎng)董事長、傳播內(nèi)容認知全國重點實驗室主任葉蓁蓁出席論壇并發(fā)言。

世界知識產(chǎn)權組織駐華代表劉華在致辭中指出，人工智能的發(fā)展正在對知識產(chǎn)權工作產(chǎn)生前所未有的影響，人工智能參與下的知識產(chǎn)權保護問題成為全球關注的焦點。各國在司法判例和實踐中對人工智能對知識產(chǎn)權的影響有不同的處理方式，這進一步凸顯了人工智能技術給知識產(chǎn)權帶來的挑戰(zhàn)。因此，需要進一步加強人工智能領域的國際協(xié)調(diào)與合作，以應對這些挑戰(zhàn)。

全國政協(xié)委員、中國網(wǎng)絡空間安全協(xié)會理事長趙澤良發(fā)言（主辦方供圖）

第十四屆全國政協(xié)委員、中國網(wǎng)絡空間安全協(xié)會理事長趙澤良在發(fā)言中指出，人工智能的安全治理要把握好三個方面，一是要高度關注和注意解決人工智能本身和人工智能在使用過程中可能產(chǎn)生的安全問題；二是要善于、注重用人工智能，包括用大模型來解決其他類型的網(wǎng)絡安全問題；三是人工智能安全治理，要以保障和促進人工智能的發(fā)展應用為出發(fā)點。這三點哪一點都離不開創(chuàng)新，創(chuàng)新是核心，創(chuàng)新是靈魂。

“AI向善”首先意味著要以人為本。中國工程院院士、同濟大學校長鄭慶華表示，讓科技與人類價值對齊，是引導人工智能科技向善、以人為本的重要基礎。鄭慶華強調(diào)，作為教育工作者，既要發(fā)揮人工智能的賦能作用，又要防止技術凌駕于人之上，在人才培養(yǎng)領域堅持德智體美勞全面發(fā)展，避免技術“物化”和“異化”。

“AI向善”也意味著要可持續(xù)發(fā)展。香港理工大學視覺計算講座教授、歐洲人文和自然科學院外籍院士陳長汶坦言，從實踐看，人工智能在多方面與可持續(xù)發(fā)展存在著爭奪寶貴資源的博弈。目前的大模型仍依賴于超大規(guī)模的算力和能源資源的供給。跟人腦的低功耗相比，差別巨大。需要我們對下一代人工智能訓練、推理設計提出新的架構要求。

“AI向善”要具體問題具體分析。在螞蟻集團副總裁李俊奎看來，AI如同高速行駛的汽車，需要道路和信號的引導。他提出“紅燈停、黃燈等、綠燈行”的理念，即對違反人類價值觀的AI應用進行防御和抵制，對潛在風險的AI應用進行慎重對待，對有益于人類的AI應用予以鼓勵和支持。

“AI向善”依托于技術的發(fā)展。深圳理工大學計算機科學與控制工程學院院長、美國醫(yī)學與生物工程院院士潘毅說，從應用看，人工智能正經(jīng)歷普通模型、行業(yè)模型、場景模型和問題模型四個發(fā)展階段，每個階段的發(fā)展，都依賴于更多的知識和參數(shù)微調(diào)。目前人工智能更多是基于參數(shù)的預測推理，后續(xù)還需不斷攻克算力限制、AI幻覺、風險識別等問題，最終在各領域?qū)崿F(xiàn)高價值賦能。

“我們應該以工具視之，以工具用之，以工具治理之?！卑埠阈畔⒍麻L范淵提出，新一代人工智能技術，不僅僅是人機交互體驗、協(xié)作的革命，更是專家經(jīng)驗傳承的一次變革。在網(wǎng)絡安全、數(shù)據(jù)安全領域，AI正在重構安全工作協(xié)同關系，助力安全產(chǎn)業(yè)發(fā)展和行業(yè)應用價值化呈現(xiàn)，為行業(yè)應用帶來質(zhì)的變化。

通過積極的治理和技術創(chuàng)新，AI可以成為推動社會進步和提升生活質(zhì)量的有力工具。宜人智科董事會主席、首席執(zhí)行官唐寧談到，從理論研究到商業(yè)運用，人工智能通過技術創(chuàng)新與應用創(chuàng)新發(fā)揮了眾多積極作用。將人工智能技術轉(zhuǎn)化為具體且可行的解決方案與產(chǎn)品，對推動人工智能行業(yè)的發(fā)展以及實現(xiàn)商業(yè)價值，有著至關重要的意義。

人工智能應該“負責任” 全球協(xié)作是AI治理的關鍵

圓桌對話“構建可互操作的人工智能治理框架”（主辦方供圖）

在圓桌討論環(huán)節(jié)中，嘉賓一致認為：全球協(xié)作是AI治理的關鍵，需要各方共同努力，形成系統(tǒng)性共識，推動AI治理的有效實施。隨后，圍繞AI治理的具體路徑，中國科學院自動化研究所人工智能倫理與治理中心主任曾毅、中國電信研究院副院長李安民、浙江大學傳媒與國際文化學院常務副院長方興東、浙江大學濱江研究院數(shù)智融合研究中心主任韓蒙、劍橋大學智能未來研究中心項目主任肖恩·歐·海格緹、美國奧爾布賴特石橋集團合伙人及副總裁保羅·特里奧洛、香港醫(yī)院管理局資訊科技及醫(yī)療信息部總經(jīng)理余法昌、鈦媒體聯(lián)合創(chuàng)始人劉湘明、印象筆記董事長兼首席執(zhí)行官唐毅等多位專家進行了深入探討。

文/北京青年報記者溫婧

編輯/田野