AI造謠、AI侵權(quán)、AI詐騙紛至沓來，人工智能法何時(shí)出臺(tái)？

2024-12-7 14:56| 發(fā)布者: admin| 查看: 104| 評(píng)論: 0

摘要: 來源：法治網(wǎng)微信公眾號(hào) 從2023年初ChatGPT驚艷問世，到2024年初Sora引起全球關(guān)注，人工智能技術(shù)發(fā)展的腳步日益加快。不過與此同時(shí)，AI造謠、AI侵權(quán)、AI詐騙等亂象也紛至沓來。對(duì)此，眾多學(xué)界、業(yè)界人士開始越來越多 ...

來源：法治網(wǎng)微信公眾號(hào)

從2023年初ChatGPT驚艷問世，到2024年初Sora引起全球關(guān)注，人工智能技術(shù)發(fā)展的腳步日益加快。不過與此同時(shí)，AI造謠、AI侵權(quán)、AI詐騙等亂象也紛至沓來。對(duì)此，眾多學(xué)界、業(yè)界人士開始越來越多地探討我國是否需要加快推動(dòng)人工智能立法，以促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展。日前，法治網(wǎng)研究院邀請(qǐng)了清華大學(xué)智能法治研究院院長申衛(wèi)星，西南政法大學(xué)人工智能法學(xué)院院長陳亮，南開大學(xué)法學(xué)院副院長陳兵，中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春，中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒，《法治日?qǐng)?bào)》律師專家?guī)斐蓡T王渝偉律師，圍繞相關(guān)話題展開一場深度對(duì)談。

法治網(wǎng)研究院：目前，隨著人工智能發(fā)展的腳步越來越快，各種亂象越來越凸顯，看起來已經(jīng)到了必須要“立規(guī)矩”的時(shí)候了。事實(shí)上，早在2017年，《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》就提出人工智能立法“三步走”戰(zhàn)略目標(biāo)，其核心要義是建構(gòu)完善的“人工智能法律體系”。國務(wù)院2023年度和2024年度“立法工作計(jì)劃”均將“人工智能法草案”列入預(yù)備提請(qǐng)全國人大常委會(huì)審議草案的范圍。您認(rèn)為，當(dāng)前加快推動(dòng)人工智能立法的條件成熟了嗎？

申衛(wèi)星：我認(rèn)為人工智能立法的時(shí)機(jī)已經(jīng)成熟。一是人工智能立法具有很強(qiáng)的必要性，人工智能產(chǎn)業(yè)的國際化貿(mào)易，需要我國人工智能立法構(gòu)建公平、互信的法治保障。我們可以注意到，聯(lián)合國等國際組織圍繞人工智能治理出臺(tái)了一系列文件，中國、歐洲、美國在對(duì)外經(jīng)貿(mào)合作中，都把人工智能治理合作作為重要事項(xiàng)，其背后的原因，正是在于人工智能產(chǎn)品服務(wù)的全球化帶來信任焦慮，各國普遍期待通過具有強(qiáng)制約束力的制度，來確保人工智能產(chǎn)品安全可靠，避免人工智能產(chǎn)品的濫用。

二是人工智能立法具有可行性，國內(nèi)外人工智能立法經(jīng)驗(yàn)儲(chǔ)備充分，人工智能立法的制度需求也逐漸明確。近年來，國內(nèi)外出臺(tái)了一系列確保人工智能安全、促進(jìn)人工智能在公共管理、社會(huì)服務(wù)等典型場景應(yīng)用的政策法規(guī)，這些政策法規(guī)逐漸形成了算法透明度、高風(fēng)險(xiǎn)產(chǎn)品備案、風(fēng)險(xiǎn)監(jiān)測、用戶權(quán)益保護(hù)、訓(xùn)練數(shù)據(jù)合規(guī)、算力設(shè)施共享、高價(jià)值數(shù)據(jù)資源供給等一系列典型制度，基本確立了未來人工智能法要解決的主要制度。此外，自動(dòng)駕駛、健康醫(yī)療等產(chǎn)業(yè)領(lǐng)域亟需人工智能規(guī)則為他們的產(chǎn)品上市提供合法性基礎(chǔ)，這些現(xiàn)實(shí)的產(chǎn)業(yè)需求也需要人工智能立法解決。

劉曉春：人工智能相關(guān)的立法可以分成不同形式。第一種是全面系統(tǒng)的立法，第二種是根據(jù)亟需解決的問題針對(duì)性出臺(tái)立法或者規(guī)定，第三種是在各個(gè)相關(guān)部門法領(lǐng)域分別進(jìn)行立法立規(guī)或者修訂相關(guān)條文。

目前來看，在某些領(lǐng)域，聚焦的問題已經(jīng)比較穩(wěn)定、清晰，也存在行業(yè)和相關(guān)主體都期待解決的規(guī)則不清晰問題。例如訓(xùn)練數(shù)據(jù)使用作品是否構(gòu)成侵害著作權(quán)，人工智能產(chǎn)業(yè)鏈上各主體的相關(guān)法律責(zé)任認(rèn)定標(biāo)準(zhǔn)，人工智能生成合成內(nèi)容標(biāo)識(shí)的標(biāo)準(zhǔn)和落地問題等。對(duì)于這些問題，目前相關(guān)行政部門、地方政府、司法機(jī)關(guān)都在直面并試圖給出回答，分散式、漸進(jìn)式的規(guī)則演進(jìn)有可能無法滿足行業(yè)發(fā)展需要的確定性需求，需要在立法上給出較為明確的答復(fù)。具體通過哪種方式來進(jìn)行立法，倒是可以根據(jù)具體問題涉及的領(lǐng)域、立法成本和周期等考量，分別來進(jìn)行斟酌和確定。

陳亮：我個(gè)人認(rèn)為，制定“完備”的人工智能法律體系還需假以時(shí)日。所謂“完備”，至少意味著擬議的人工智能法，應(yīng)該達(dá)到“對(duì)象明確、范圍清晰、理論自足、邏輯自洽、體系完整”等基本要求，以便為我國人工智能執(zhí)法、司法和守法給出清晰的指引。

遺憾的是，我們尚未充分把握人工智能的技術(shù)特征及其運(yùn)行規(guī)律，學(xué)界對(duì)人工智能法的調(diào)整對(duì)象、適用范圍、理念欲求、基本原則、主要制度與立法技術(shù)等關(guān)乎人工智能立法的重大理論和實(shí)踐問題，均未達(dá)成令人滿意的共識(shí)。與其匆匆忙忙搞一部漏洞百出的“急就章”，不如“讓子彈飛一會(huì)兒”，借鑒我國民法典的成功經(jīng)驗(yàn)，“批發(fā)改零售”，根據(jù)輕重緩急，推出人工智能單行法，成熟一部推出一部，最后化零為整，制定完備的人工智能法。

法治網(wǎng)研究院：您認(rèn)為，中國人工智能立法應(yīng)當(dāng)遵循哪些基本邏輯？

陳兵：我認(rèn)為應(yīng)當(dāng)遵循四大基本邏輯。一是應(yīng)對(duì)技術(shù)不確定性的動(dòng)態(tài)立法邏輯。中國人工智能立法，不僅要包容已知的技術(shù)形態(tài)與應(yīng)用場景，還需預(yù)留足夠的空間，以適應(yīng)未來可能出現(xiàn)的新技術(shù)、新應(yīng)用及其引發(fā)的新問題。適時(shí)修訂與更新法律，確保法律與技術(shù)同步發(fā)展。

二是立足本土實(shí)踐的制度創(chuàng)新邏輯。我國的人工智能立法，需緊密結(jié)合本土的技術(shù)產(chǎn)業(yè)發(fā)展現(xiàn)狀、社會(huì)文化背景及法律傳統(tǒng)，充分考慮中國特有的制度環(huán)境、市場需求與監(jiān)管能力，實(shí)現(xiàn)制度創(chuàng)新與社會(huì)發(fā)展的良性互動(dòng)，特別是要處理好系統(tǒng)集成與單點(diǎn)突破之間的平衡，處理好行業(yè)發(fā)展政策與宏觀政策的一致性兼容，以及針對(duì)我國人工智能發(fā)展的短板，做好政府支持、多元協(xié)力。在強(qiáng)調(diào)創(chuàng)新發(fā)展、安全發(fā)展與普惠發(fā)展的同時(shí)，建立健全容錯(cuò)發(fā)展機(jī)制，為創(chuàng)新營造更加寬松的法治環(huán)境。

三是強(qiáng)化國際競爭的法治保障邏輯。在全球化的背景下，既要積極參與國際規(guī)則制定，推動(dòng)形成公平、合理、包容的國際AI治理體系，又要維護(hù)國家主權(quán)、安全與發(fā)展利益，為中國AI企業(yè)“走出去”提供法治保障。

四是平衡技術(shù)發(fā)展與權(quán)益保護(hù)的法律倫理邏輯。中國人工智能立法需在促進(jìn)技術(shù)發(fā)展的同時(shí)，充分保障公民的基本權(quán)利與自由。通過確立數(shù)據(jù)保護(hù)原則、算法透明度要求、責(zé)任追溯機(jī)制等，確保技術(shù)發(fā)展不侵犯個(gè)人權(quán)益，實(shí)現(xiàn)技術(shù)與社會(huì)的和諧共生。

申衛(wèi)星：我認(rèn)為，中國的人工智能立法主要是解決發(fā)展與安全的平衡關(guān)系。我們都知道“不發(fā)展是最大的不安全”，但是發(fā)展也一定要在健康有序的環(huán)境中才能行穩(wěn)致遠(yuǎn)。我們在數(shù)字經(jīng)濟(jì)時(shí)代的發(fā)展，要避免在工業(yè)經(jīng)濟(jì)時(shí)代已經(jīng)遭遇的“先污染后治理”陷阱，不可任由“子彈飛”。

這就面臨在具體制度設(shè)計(jì)中，如何平衡促進(jìn)創(chuàng)新和保障安全的關(guān)系。例如，在人工智能的透明度方面，要兼顧用戶的知情權(quán)和企業(yè)的商業(yè)秘密保護(hù)；在訓(xùn)練數(shù)據(jù)方面，要兼顧破壞式創(chuàng)新發(fā)展的價(jià)值和傳統(tǒng)產(chǎn)業(yè)的基本利益訴求；在風(fēng)險(xiǎn)識(shí)別處置方面，要兼顧風(fēng)險(xiǎn)治理的有效性和不確定性風(fēng)險(xiǎn)的包容性。人工智能立法要遵循技術(shù)發(fā)展規(guī)律，對(duì)于看得準(zhǔn)的問題可以針對(duì)性提出治理規(guī)則，對(duì)于尚處于變化發(fā)展過程中的，則要留有拓展的空間，避免落后的監(jiān)管方法跟不上快速發(fā)展變化的技術(shù)應(yīng)用規(guī)律。

劉曉春：我認(rèn)為需要深入思考三方面內(nèi)容。一是要深入理解人工智能在中國亟需解決的重點(diǎn)問題是什么，進(jìn)行問題解決型立法。

二是要研判中國人工智能產(chǎn)業(yè)發(fā)展的態(tài)勢和在國際上的生態(tài)位，在產(chǎn)業(yè)發(fā)展現(xiàn)階段秉持促進(jìn)型、賦能型立法理念。

三是要確立合理的風(fēng)險(xiǎn)容忍理念和容錯(cuò)機(jī)制，允許產(chǎn)業(yè)進(jìn)行先行創(chuàng)新型探索，進(jìn)行邊際上的容錯(cuò)糾錯(cuò)和風(fēng)險(xiǎn)調(diào)控，避免采取過度風(fēng)險(xiǎn)厭惡的態(tài)度，從而抑制創(chuàng)新的可能空間。

法治網(wǎng)研究院：今年8月1日，歐盟《人工智能法案》在整個(gè)歐盟范圍內(nèi)生效，這也是迄今為止全球首部對(duì)人工智能進(jìn)行全面監(jiān)管的法案。據(jù)了解，這部法案的出臺(tái)，旨在提升歐盟人工智能產(chǎn)業(yè)的規(guī)范性和透明度，以人為本推動(dòng)人工智能有序發(fā)展。您認(rèn)為，歐盟《人工智能法案》對(duì)中國人工智能立法有哪些借鑒價(jià)值或者經(jīng)驗(yàn)教訓(xùn)？

陳亮：在我看來，歐盟《人工智能法案》并非嚴(yán)格意義上的人工智能法，而是產(chǎn)品安全立法在人工智能領(lǐng)域的延伸或體現(xiàn)，其主要目的之一，是在人工智能系統(tǒng)投放市場或部署之前將其風(fēng)險(xiǎn)降至最低。

我個(gè)人認(rèn)為，嚴(yán)格意義上的人工智能法，應(yīng)該在明確“發(fā)展什么樣的人工智能”并將其上升為立法理念的前提之下，著眼于人工智能各要素在發(fā)展人工智能中的地位與作用，公平、合理配置人工智能全生命周期各利害關(guān)系人的權(quán)、責(zé)、利，以確保人工智能法所追求的“發(fā)展什么樣的人工智能”這一立法理念的實(shí)現(xiàn)。

張凌寒：歐盟期望能首先通過一部綜合性、通用性《人工智能法案》開啟治理體系的建設(shè)。該《人工智能法案》將人工智能風(fēng)險(xiǎn)等級(jí)劃為四類，并擴(kuò)大了人工智能高風(fēng)險(xiǎn)領(lǐng)域的分類范圍，將對(duì)人們健康、安全、基本權(quán)利或環(huán)境的危害考慮在內(nèi)；對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)采取多項(xiàng)監(jiān)管措施，并且新增規(guī)定了部署商的義務(wù)等。但歐盟對(duì)風(fēng)險(xiǎn)的認(rèn)定標(biāo)準(zhǔn)和監(jiān)管成本過高，與我國立法的標(biāo)準(zhǔn)體系難以完全兼容。風(fēng)險(xiǎn)規(guī)制既需反映當(dāng)下迫切的治理需求，也需要留足應(yīng)對(duì)未來發(fā)展與不確定性的空間。

事實(shí)上，各國高度重視人工智能立法對(duì)域外效力的爭奪，如歐盟《人工智能法案》規(guī)定了屬人、屬地和實(shí)質(zhì)判斷等多個(gè)管轄標(biāo)準(zhǔn)，只要對(duì)歐盟市場提供產(chǎn)品或者開展服務(wù)，或其產(chǎn)品的輸出物有可能在歐盟被銷售，甚至位于歐洲的用戶可能因使用其產(chǎn)品受到不利影響，均受其管轄。個(gè)人認(rèn)為，我國的人工智能立法，可以合理拓寬域外管轄范圍，通過管轄權(quán)條款賦予我國執(zhí)法機(jī)構(gòu)和司法機(jī)構(gòu)域外管轄的權(quán)力。

王渝偉：歐盟《人工智能法案》立法水平相對(duì)來說還是比較高的，深入探討了人工智能發(fā)展中的一些風(fēng)險(xiǎn)點(diǎn)，并做了細(xì)致的指引。據(jù)我了解，在立法過程中，歐盟成立了幾個(gè)工作組，在全球范圍內(nèi)邀請(qǐng)了相關(guān)人工智能專家，聽取了多種觀點(diǎn)和聲音，力圖增強(qiáng)《人工智能法案》的可操作性。我認(rèn)為，這都是中國人工智能立法值得借鑒的地方。

但歐盟《人工智能法案》的一個(gè)問題在于，沒有為還處在快速變化發(fā)展過程中的人工智能行業(yè)預(yù)留更大的拓展的空間，有些法律條款過細(xì)、過嚴(yán)，這不利于行業(yè)的發(fā)展。它應(yīng)該在行業(yè)發(fā)展和風(fēng)險(xiǎn)管控之間尋找到一個(gè)更好的平衡。我覺得，這是中國人工智能立法需要吸取的經(jīng)驗(yàn)教訓(xùn)。

每個(gè)國家的人工智能的發(fā)展水平、模式、路徑等都不盡相同，各國的人工智能立法都需要根據(jù)自身發(fā)展特點(diǎn)并借鑒他國經(jīng)驗(yàn)教訓(xùn)，在鼓勵(lì)創(chuàng)新與管控風(fēng)險(xiǎn)之間努力取得良好的平衡。

專家簡介