AI的治理模式與中國(guó)企業(yè)的應(yīng)對(duì)策略

2025-3-4 11:22| 發(fā)布者: admin| 查看: 91| 評(píng)論: 0

摘要: 2025年2月11日，巴黎AI行動(dòng)峰會(huì)引發(fā)了全球?qū)I治理的廣泛討論及爭(zhēng)議。一方面，包括中國(guó)、法國(guó)、印度在內(nèi)的60個(gè)國(guó)共同簽署了《關(guān)于發(fā)展包容、可持續(xù)的AI造福人類(lèi)與地球的聲明》，強(qiáng)調(diào)全球合作、包容性發(fā)展和可持續(xù)治 ...

2025年2月11日，巴黎AI行動(dòng)峰會(huì)引發(fā)了全球?qū)I治理的廣泛討論及爭(zhēng)議。一方面，包括中國(guó)、法國(guó)、印度在內(nèi)的60個(gè)國(guó)共同簽署了《關(guān)于發(fā)展包容、可持續(xù)的AI造福人類(lèi)與地球的聲明》，強(qiáng)調(diào)全球合作、包容性發(fā)展和可持續(xù)治理。但另一方面，美國(guó)和英國(guó)卻拒絕簽署該聲明，其中美國(guó)主張放松對(duì)AI的監(jiān)管，而英國(guó)則主張?jiān)撀暶鞑环掀鋰?guó)家利益。這不僅顯示出各國(guó)在AI治理理念上的分歧，而且也凸顯了當(dāng)前全球在AI監(jiān)管與發(fā)展之間的博弈。

就如何平衡AI的發(fā)展與安全的關(guān)系，全球主要有兩種具有影響力的理想類(lèi)型：一是以“風(fēng)險(xiǎn)分級(jí)分類(lèi)機(jī)制+政府強(qiáng)力規(guī)制”為基石，并強(qiáng)調(diào)“基本權(quán)利保護(hù)”的歐盟“權(quán)利主義”模式；二是以“市場(chǎng)機(jī)制+企業(yè)自我規(guī)制”為基石，并強(qiáng)調(diào)“數(shù)據(jù)流動(dòng)利用”的美國(guó)“自由主義”模式。而我國(guó)則應(yīng)當(dāng)充分借鑒上述兩種模式的優(yōu)點(diǎn)，并同時(shí)摒棄其中的劣勢(shì)，實(shí)現(xiàn)平衡AI創(chuàng)新發(fā)展與個(gè)人權(quán)利保護(hù)之間的關(guān)系。

一、歐盟的權(quán)利主義模式

歐盟模式的法理基礎(chǔ)是以人為本的權(quán)利保護(hù)。鑒于AI可能對(duì)社會(huì)產(chǎn)生的重大影響以及建立信任的必要性，AI產(chǎn)業(yè)發(fā)展的前提條件是以人為本的技術(shù)，確保保護(hù)人的基本權(quán)利和自由，它應(yīng)作為人類(lèi)的工具，最終目的是提高人類(lèi)福祉。歐盟模式的形成，與基于法治的個(gè)人權(quán)利保護(hù)傳統(tǒng)息息相關(guān)。如歐盟以“人格尊嚴(yán)”等權(quán)利價(jià)值導(dǎo)向來(lái)定義個(gè)人數(shù)據(jù)，數(shù)據(jù)主體具有自主決定個(gè)人數(shù)據(jù)的處理目的及方式的權(quán)利。由此，我們很容易理解歐洲人為何不能容忍公開(kāi)討論薪水，卻可以接受在公共場(chǎng)所脫掉比基尼。

歐盟模式的最終決定因素是經(jīng)濟(jì)基礎(chǔ)，由于沒(méi)有成體系的AI產(chǎn)業(yè)及世界排名靠前的超大型AI企業(yè)，歐盟在平衡發(fā)展與安全之間關(guān)系時(shí)，選擇“偏向”安全一邊的“權(quán)利保護(hù)”，即把權(quán)利保護(hù)植入AI立法，憑借價(jià)值觀等軟實(shí)力充分發(fā)揮布魯塞爾效應(yīng)，影響世界各國(guó)的AI治理及立法實(shí)踐，尤其依靠超高的技術(shù)準(zhǔn)入標(biāo)準(zhǔn)和合規(guī)成本，事實(shí)上限制了美國(guó)、中國(guó)等國(guó)的跨國(guó)企業(yè)進(jìn)入歐盟市場(chǎng)，以便保護(hù)歐盟AI產(chǎn)業(yè)；歐盟也可以依據(jù)嚴(yán)格的AI法，對(duì)違反合規(guī)義務(wù)的跨國(guó)企業(yè)處以巨額罰款。由此，歐盟把高標(biāo)準(zhǔn)的AI立法作為與美國(guó)、中國(guó)等主要貿(mào)易對(duì)手的競(jìng)爭(zhēng)及談判籌碼，而且權(quán)利保護(hù)是絕對(duì)正確的價(jià)值觀，世界各國(guó)沒(méi)有任何理由予以反對(duì)。

歐盟模式的實(shí)現(xiàn)機(jī)制，則是充分強(qiáng)調(diào)政府強(qiáng)力規(guī)制基礎(chǔ)上的綜合治理。如在數(shù)據(jù)保護(hù)領(lǐng)域，歐盟一直致力于建立“行業(yè)準(zhǔn)則及標(biāo)準(zhǔn)+法律強(qiáng)制性規(guī)范”的雙重規(guī)范體系和“企業(yè)自我規(guī)制+政府強(qiáng)制規(guī)制”的雙重治理體系。

二、美國(guó)的自由主義模式

美國(guó)AI治理模式的法理基礎(chǔ)是自由主義。其理論來(lái)源是產(chǎn)生于上世紀(jì)二三十年代的奧地利學(xué)派和美國(guó)承繼的新自由主義學(xué)派，代表人物是米塞斯和哈耶克。美國(guó)模式的兩根支柱為“市場(chǎng)主導(dǎo)”和“商業(yè)自由”，即主張市場(chǎng)主導(dǎo)配置下的AI企業(yè)的自我規(guī)制和對(duì)政府強(qiáng)制規(guī)制的理性限制。由此，美國(guó)對(duì)AI創(chuàng)新和產(chǎn)業(yè)發(fā)展的承諾成為反對(duì)政府無(wú)限干預(yù)的經(jīng)濟(jì)理由，而對(duì)個(gè)人自由和企業(yè)自由的價(jià)值支持則被援引為是限制政府通過(guò)立法和政策強(qiáng)力規(guī)制AI產(chǎn)業(yè)的政治理由。

美國(guó)模式的“自由主義”在加州《前沿AI模型安全創(chuàng)新法》的反對(duì)意見(jiàn)中得到充分體現(xiàn)：一是主張立法的嚴(yán)格規(guī)制將阻礙創(chuàng)新和產(chǎn)業(yè)發(fā)展。如該法案將對(duì)開(kāi)源及初創(chuàng)企業(yè)造成了系統(tǒng)性損害，而它們是加州創(chuàng)新的策源地；如該法案將抑制了美國(guó)AI的研究與創(chuàng)新，給其他國(guó)家趕超美國(guó)提供了機(jī)會(huì)；如該法案將給加州的AI投資和產(chǎn)業(yè)發(fā)展帶來(lái)寒蟬效應(yīng)。二是主張立法將帶來(lái)嚴(yán)重的不確定性。如該法案的模糊定義和嚴(yán)格法律責(zé)任，將給創(chuàng)新帶來(lái)了巨大的不確定性和風(fēng)險(xiǎn)；又如該案可能迫使AI研發(fā)轉(zhuǎn)入地下，這將極大降低AI模型和系統(tǒng)的安全性。

三、中國(guó)的AI治理實(shí)踐

對(duì)于AI的治理，中國(guó)早期以促進(jìn)型產(chǎn)業(yè)政策等“發(fā)展議題”為主，近年來(lái)特別是隨著生成式AI的盛行，我們開(kāi)始同時(shí)聚焦倫理審查、算法治理及數(shù)據(jù)隱私等“安全議題”。與歐盟的權(quán)利主義模式和美國(guó)的自由主義模式不同，中國(guó)特色的AI治理具體包括：

我們應(yīng)當(dāng)在平衡發(fā)展與安全之間關(guān)系的基礎(chǔ)上稍偏向“發(fā)展”一方，正如《生成式AI服務(wù)管理暫行辦法》所強(qiáng)調(diào)的“國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式AI創(chuàng)新發(fā)展，對(duì)生成式AI服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管”。

我們的配置機(jī)制是社會(huì)市場(chǎng)論，既強(qiáng)調(diào)市場(chǎng)機(jī)制在AI領(lǐng)域的基礎(chǔ)性配置作用，也強(qiáng)調(diào)政府的保護(hù)性措施。

我們的實(shí)現(xiàn)規(guī)則應(yīng)當(dāng)是合作治理論，即強(qiáng)調(diào)在信任基礎(chǔ)上實(shí)現(xiàn)政府、市場(chǎng)及社會(huì)在AI領(lǐng)域的協(xié)同綜合治理。

四、中國(guó)AI企業(yè)的應(yīng)對(duì)策略

面對(duì)紛繁復(fù)雜的全球AI治理模式，中國(guó)AI企業(yè)只有在確保技術(shù)安全性和法律合規(guī)性的基礎(chǔ)上，才能充分把握AI帶來(lái)的巨大經(jīng)濟(jì)與社會(huì)紅利。為此，筆者建議中國(guó)AI企業(yè)作好以下措施：

1.定義并控制AI模型及系統(tǒng)的邊界。例如，在醫(yī)療、金融等高度敏感領(lǐng)域，AI系統(tǒng)的誤判可能導(dǎo)致嚴(yán)重后果，因此企業(yè)應(yīng)設(shè)定嚴(yán)格的使用邊界，確保技術(shù)不會(huì)被應(yīng)用于未經(jīng)充分驗(yàn)證的場(chǎng)景。同時(shí)，企業(yè)還需要建立技術(shù)準(zhǔn)入機(jī)制，確保外部AI工具和服務(wù)的合規(guī)性。

2.制定詳細(xì)的AI治理計(jì)劃，建立長(zhǎng)期風(fēng)險(xiǎn)管理體系。AI治理不僅涉及技術(shù)本身的安全性，還包括企業(yè)管理層的決策機(jī)制和執(zhí)行能力。企業(yè)應(yīng)制定全面的AI治理框架，涵蓋數(shù)據(jù)處理、算法透明度、倫理審查、監(jiān)管應(yīng)對(duì)等方面。與此同時(shí)，AI治理必須是動(dòng)態(tài)的，企業(yè)需要建立定期評(píng)估機(jī)制，以適應(yīng)不斷變化的法規(guī)環(huán)境和技術(shù)發(fā)展趨勢(shì)。

3.重點(diǎn)關(guān)注網(wǎng)絡(luò)安全、個(gè)人信息保護(hù)和數(shù)據(jù)安全。AI系統(tǒng)處理海量數(shù)據(jù)，其中涉及大量個(gè)人信息和敏感數(shù)據(jù)。因此，企業(yè)必須遵循“零信任”安全原則，即在系統(tǒng)內(nèi)部不默認(rèn)信任任何用戶或設(shè)備，而是采用嚴(yán)格的身份驗(yàn)證、數(shù)據(jù)加密、訪問(wèn)控制等措施，以防止數(shù)據(jù)泄露和濫用。

4.實(shí)現(xiàn)AI風(fēng)險(xiǎn)的均衡化和分散化。AI系統(tǒng)的集中式架構(gòu)可能導(dǎo)致單點(diǎn)故障問(wèn)題，甚至帶來(lái)系統(tǒng)性風(fēng)險(xiǎn)。因此，企業(yè)應(yīng)將AI功能模塊化、分散化，從而降低因技術(shù)故障或攻擊導(dǎo)致的整體損害。同時(shí)，企業(yè)還應(yīng)加強(qiáng)AI系統(tǒng)的冗余設(shè)計(jì)，以提升穩(wěn)定性和容錯(cuò)能力。

5.加強(qiáng)AI系統(tǒng)全生命周期的數(shù)據(jù)合規(guī)和治理。數(shù)據(jù)治理是AI治理的重要組成部分，企業(yè)必須在數(shù)據(jù)的采集、存儲(chǔ)、使用、共享和銷(xiāo)毀等各個(gè)環(huán)節(jié)建立嚴(yán)格的合規(guī)管理體系。例如，企業(yè)應(yīng)確保數(shù)據(jù)的來(lái)源合法，避免使用未經(jīng)用戶授權(quán)的數(shù)據(jù)訓(xùn)練AI模型。

6.提高組織內(nèi)部AI素養(yǎng)，強(qiáng)化用戶培訓(xùn)。AI企業(yè)應(yīng)加強(qiáng)員工培訓(xùn)，確保研發(fā)人員、管理者及用戶都能理解AI技術(shù)的風(fēng)險(xiǎn)和使用規(guī)范。例如，數(shù)據(jù)科學(xué)團(tuán)隊(duì)需要接受關(guān)于算法公平性和偏見(jiàn)檢測(cè)的培訓(xùn)，而普通用戶則應(yīng)了解AI的基本操作和隱私保護(hù)要求。

7.通過(guò)倫理審查和偏見(jiàn)測(cè)量，確保AI的可信性。企業(yè)應(yīng)建立AI倫理審查委員會(huì)，定期對(duì)算法進(jìn)行偏見(jiàn)測(cè)量和公正性測(cè)試。此外，企業(yè)還可以引入外部專(zhuān)家審核機(jī)制，確保AI技術(shù)的使用符合社會(huì)責(zé)任要求，避免因算法偏見(jiàn)導(dǎo)致歧視性決策或不公平待遇。

綜上所述，中國(guó)AI企業(yè)在全球治理趨勢(shì)下，需要采取全面的合規(guī)措施，不僅要確保技術(shù)安全、數(shù)據(jù)合規(guī)和網(wǎng)絡(luò)安全，還要關(guān)注AI倫理、風(fēng)險(xiǎn)管理以及組織內(nèi)部的AI教育。只有在合規(guī)的基礎(chǔ)上穩(wěn)步推進(jìn)技術(shù)創(chuàng)新，中國(guó)AI企業(yè)才能在全球競(jìng)爭(zhēng)中占據(jù)有利位置，充分把握人工智能發(fā)展的時(shí)代機(jī)遇。

（作者何淵為上海交通大學(xué)數(shù)據(jù)法律研究中心執(zhí)行主任，上海交通大學(xué)凱原法學(xué)院副教授，《歐盟人工智能法合規(guī)手冊(cè)》第一作者）

來(lái)源：何淵

(本文來(lái)自澎湃新聞，更多原創(chuàng)資訊請(qǐng)下載“澎湃新聞”APP)