全球AI立法進(jìn)程明顯提速,世界各國(guó)的監(jiān)管都在追趕AI的演化速度。
當(dāng)?shù)貢r(shí)間6月14日,歐洲議會(huì)以499票贊成、28票反對(duì)和93票棄權(quán),高票通過(guò)了《人工智能法案》(AI Act)談判授權(quán)草案。按照歐盟立法程序,歐洲議會(huì)、歐盟成員國(guó)和歐盟委員會(huì)將開(kāi)始“三方談判”,以確定法案的最終條款。
歐洲議會(huì)稱(chēng)“已經(jīng)為制定史上首部人工智能法案做好談判準(zhǔn)備”。美國(guó)總統(tǒng)拜登釋放管控AI信號(hào),有美國(guó)國(guó)會(huì)議員提交了AI監(jiān)管立法提案。美國(guó)參議院民主黨領(lǐng)袖查克·舒默展示了他的“人工智能安全創(chuàng)新框架”,并計(jì)劃在短短“幾個(gè)月”內(nèi)制定聯(lián)邦層面的人工智能法案。
我國(guó)相關(guān)立法也已提上日程,人工智能法草案預(yù)備在今年內(nèi)提請(qǐng)全國(guó)人大常委會(huì)審議。6月20日,首批境內(nèi)深度合成服務(wù)算法備案清單也已經(jīng)出爐,百度、阿里巴巴、騰訊等26家公司、共計(jì)41個(gè)算法榜上有名。
盡管中國(guó)、美國(guó)、歐盟都倡導(dǎo)準(zhǔn)確、安全、透明度等原則性的AI監(jiān)管理念,但在具體思路和方式上,存在許多不同。頒布全面的AI法律,背后是對(duì)自身規(guī)則的輸出,欲掌握規(guī)則優(yōu)勢(shì)。
國(guó)內(nèi)一些專(zhuān)家呼吁盡快開(kāi)展人工智能法律規(guī)制,但目前面臨的現(xiàn)實(shí)難題不容忽視。此外還有一個(gè)重要的考慮是:要監(jiān)管還是要發(fā)展。這并不是一個(gè)二元對(duì)立的選擇,但在數(shù)字領(lǐng)域,平衡兩者卻頗為不易。
歐盟沖刺,中美提速
如果一切順利,歐洲議會(huì)通過(guò)的《人工智能法案》有望在今年年底前獲批。全球首部綜合性人工智能監(jiān)管法律很有可能落地歐盟。
“該草案會(huì)影響其他處于觀望的國(guó)家加速立法。一直以來(lái),人工智能技術(shù)是否應(yīng)當(dāng)納入法治監(jiān)管范疇始終爭(zhēng)議不斷?,F(xiàn)在來(lái)看,《人工智能法案》落地后,相關(guān)網(wǎng)絡(luò)平臺(tái),如業(yè)務(wù)內(nèi)容以用戶(hù)信息生成為主的平臺(tái),勢(shì)必會(huì)承擔(dān)更高的審核義務(wù)?!北本┖娇蘸教齑髮W(xué)法學(xué)院副教授趙精武告訴《中國(guó)新聞周刊》。
作為數(shù)字戰(zhàn)略的一部分,歐盟希望通過(guò)《人工智能法案》全面監(jiān)管人工智能,其背后的戰(zhàn)略布局也已擺到臺(tái)面。
北京萬(wàn)商天勤(杭州)律師事務(wù)所執(zhí)行主任彭曉燕告訴《中國(guó)新聞周刊》,《人工智能法案》除適用于歐盟境內(nèi),還規(guī)范位于歐盟之外、但系統(tǒng)輸出數(shù)據(jù)在歐盟使用的系統(tǒng)提供方或使用者。極大擴(kuò)展了法案的管轄適用范圍,也可以窺見(jiàn)搶占數(shù)據(jù)要素管轄范圍的端倪。
中國(guó)國(guó)際問(wèn)題研究院歐洲研究所副所長(zhǎng)、研究員金玲在《全球首部人工智能立法:創(chuàng)新和規(guī)范之間的艱難平衡》一文中也寫(xiě)道,《人工智能法案》突出歐盟人工智能治理的道德優(yōu)勢(shì),是歐盟又一次欲發(fā)揮其規(guī)范性力量,通過(guò)規(guī)則優(yōu)勢(shì)彌補(bǔ)技術(shù)短板的嘗試。反映了歐盟欲搶占人工智能領(lǐng)域道德制高點(diǎn)的戰(zhàn)略意圖。
《人工智能法案》已醞釀兩年。2021年4月,歐盟委員會(huì)提出基于“風(fēng)險(xiǎn)分級(jí)”框架的人工智能立法提案,后經(jīng)多輪討論和修訂。在ChatGPT等生成式AI風(fēng)靡后,歐盟立法者又緊急添“補(bǔ)丁”。
一個(gè)新變化是,《人工智能法案》最新草案加強(qiáng)了對(duì)通用人工智能(general purpose AI)的透明度要求。例如,基于基礎(chǔ)模型的生成式AI必須要對(duì)生成的內(nèi)容進(jìn)行標(biāo)注,幫助用戶(hù)區(qū)分深度偽造和真實(shí)信息,并確保防止生成非法內(nèi)容。像OpenAI、Google等基礎(chǔ)模型的提供者,若是在培訓(xùn)模型期間使用了受版權(quán)保護(hù)的數(shù)據(jù),也需要公開(kāi)訓(xùn)練數(shù)據(jù)的詳細(xì)信息。
此外,公共場(chǎng)所的實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)從“高風(fēng)險(xiǎn)”級(jí)別調(diào)整為“被禁止”級(jí)別,即不得利用AI技術(shù),在歐盟國(guó)家的公共場(chǎng)合進(jìn)行人臉識(shí)別。
最新草案也進(jìn)一步提高了違法處罰數(shù)額,將最高3000萬(wàn)歐元或侵權(quán)公司上一財(cái)政年度全球營(yíng)業(yè)額的6%,修改為最高4000萬(wàn)歐元或侵權(quán)公司上一年度全球年?duì)I業(yè)額的7%。這比歐洲的標(biāo)志性數(shù)據(jù)安全法律《通用數(shù)據(jù)保護(hù)條例》所規(guī)定的,最高可處以全球收入的4%或2000萬(wàn)歐元罰款高出不少。
彭曉燕告訴《中國(guó)新聞周刊》,處罰數(shù)額的提高,側(cè)面反映了歐盟當(dāng)局對(duì)人工智能監(jiān)管決心與力度。對(duì)于谷歌、微軟、蘋(píng)果等營(yíng)收數(shù)千億美元的科技巨頭而言,若違反《人工智能法案》規(guī)定,罰款可能達(dá)到上百億美元。
而在大洋彼岸的美國(guó),華盛頓忙于回應(yīng)馬斯克等人呼吁加強(qiáng)AI管控之際,6月20日,美國(guó)總統(tǒng)拜登在舊金山會(huì)見(jiàn)了一群人工智能專(zhuān)家和研究人員,討論如何管理這項(xiàng)新技術(shù)的風(fēng)險(xiǎn)。拜登當(dāng)時(shí)稱(chēng),在抓住AI巨大潛力的同時(shí),需要管理其對(duì)社會(huì)、經(jīng)濟(jì)和國(guó)家安全帶來(lái)的風(fēng)險(xiǎn)。
風(fēng)險(xiǎn)管控成為AI熱門(mén)話(huà)題的背景是,美國(guó)并未對(duì)AI技術(shù)采取像反壟斷那般嚴(yán)厲措施,尚未出臺(tái)聯(lián)邦層面、綜合性的AI監(jiān)管法律。
美國(guó)聯(lián)邦政府首次正式涉足人工智能監(jiān)管領(lǐng)域是在2020年1月,當(dāng)時(shí)發(fā)布了《人工智能應(yīng)用監(jiān)管指南》,為新出現(xiàn)的人工智能問(wèn)題提供監(jiān)管和非監(jiān)管措施指引。2021年出臺(tái)的《2020年國(guó)家人工智能倡議法案》更多算是在AI領(lǐng)域的政策布局,與人工智能治理和強(qiáng)監(jiān)管還有一定距離。一年后,白宮于2022年10月發(fā)布的《人工智能權(quán)利法案藍(lán)圖》(簡(jiǎn)稱(chēng)“《藍(lán)圖》”)為人工智能治理提供了支持框架,但并不是美國(guó)官方政策,不具備約束力。
美國(guó)AI立法進(jìn)展甚微,已招致許多不滿(mǎn)。不少人批評(píng),在數(shù)字經(jīng)濟(jì)的規(guī)則制定方面,美國(guó)已落后歐盟和中國(guó)。不過(guò),或許是看到歐盟《人工智能法案》即將走過(guò)最后“關(guān)卡”,美國(guó)國(guó)會(huì)近期出現(xiàn)了立法加速跡象。
拜登舉行AI會(huì)議當(dāng)天,民主黨眾議員泰德·劉(Ted W.Lieu)、安娜·埃舒(Anna Eshoo),以及共和黨眾議員肯·巴克(Ken Buck)一同提交了《國(guó)家人工智能委員會(huì)法案》提案。同時(shí),民主黨參議員布萊恩·夏茲(Brian Schatz)將在參議院提出配套立法,一同專(zhuān)注于人工智能監(jiān)管問(wèn)題。
根據(jù)法案內(nèi)容,人工智能委員會(huì)將由來(lái)自政府、行業(yè)、民間社會(huì)和計(jì)算機(jī)科學(xué)領(lǐng)域的共20名專(zhuān)家組成,將審查美國(guó)當(dāng)前的人工智能監(jiān)管方法,共同制定全面的監(jiān)管框架。
“AI正在社會(huì)上做出令人驚嘆的事情。如果不受控制和監(jiān)管,會(huì)造成重大傷害。國(guó)會(huì)絕不能袖手旁觀?!碧┑隆⒃谝环萋暶髦姓f(shuō)。
一天后,6月21日,參議院民主黨領(lǐng)袖查克·舒默(Chuck Schumer)在戰(zhàn)略和國(guó)際研究中心(CSIS)發(fā)表演講,揭示他的“人工智能安全創(chuàng)新框架”(簡(jiǎn)稱(chēng)“AI框架”)——鼓勵(lì)創(chuàng)新,同時(shí)推進(jìn)安全、問(wèn)責(zé)制、基礎(chǔ)和可解釋性,呼應(yīng)了包括《藍(lán)圖》在內(nèi)的宏觀規(guī)劃。他曾在4月提出過(guò)該框架,但當(dāng)時(shí)基本沒(méi)有透露細(xì)節(jié)。
AI框架背后是查克·舒默的一項(xiàng)立法戰(zhàn)略。他在此次演講中表示,要在短短“幾個(gè)月”內(nèi)制定聯(lián)邦層面的人工智能法案。不過(guò),美國(guó)立法程序繁瑣,不僅要經(jīng)過(guò)參眾兩院投票,還需經(jīng)過(guò)多輪聽(tīng)證會(huì),耗時(shí)長(zhǎng)久。
為了拉快進(jìn)度,作為AI框架的組成部分,查克·舒默計(jì)劃從今年9月起舉辦一系列人工智能洞察力論壇,涵蓋創(chuàng)新、知識(shí)產(chǎn)權(quán)、國(guó)家安全和隱私在內(nèi)的10個(gè)主題。他告訴外界,洞察論壇不會(huì)取代國(guó)會(huì)關(guān)于人工智能的聽(tīng)證會(huì),而是同步進(jìn)行,以便立法機(jī)構(gòu)可以在幾個(gè)月而不是幾年內(nèi)推出有關(guān)該技術(shù)的政策。他預(yù)計(jì),美國(guó)的AI立法可能要到秋天“才能開(kāi)始看到一些具體的東西”。
雖進(jìn)度并未趕上歐盟,但我國(guó)相關(guān)立法也已提上日程。6月初,國(guó)務(wù)院辦公廳印發(fā)《國(guó)務(wù)院2023年度立法工作計(jì)劃》,其中提到,人工智能法草案等預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議。
按照我國(guó)《立法法》的規(guī)定,國(guó)務(wù)院向全國(guó)人大常務(wù)委員會(huì)提出法律草案后,由委員長(zhǎng)會(huì)議決定列入常務(wù)委員會(huì)會(huì)議議程,或者先交有關(guān)的專(zhuān)門(mén)委員會(huì)審議、提出報(bào)告,再?zèng)Q定列入常務(wù)委員會(huì)會(huì)議議程,后續(xù)一般需經(jīng)歷三次審議后再交付表決。
今年以來(lái),不少?lài)?guó)家AI立法提速,彭曉燕認(rèn)為這是競(jìng)爭(zhēng)和技術(shù)發(fā)展一同催熱的結(jié)果。
“數(shù)據(jù)要素越來(lái)越成為國(guó)家戰(zhàn)略要素,各國(guó)也希望通過(guò)立法確立管轄權(quán),搶占人工智能話(huà)語(yǔ)權(quán)。同時(shí),ChatGPT等人工智能技術(shù)的迭代更新,讓社會(huì)看見(jiàn)了強(qiáng)人工智能發(fā)展的新希望。新技術(shù)的發(fā)展勢(shì)必會(huì)帶來(lái)新的社會(huì)問(wèn)題與社會(huì)矛盾,需要規(guī)范介入調(diào)整,技術(shù)的發(fā)展某種程度上推動(dòng)了立法的更新?!迸頃匝嗾f(shuō)。
分歧遠(yuǎn)多于趨同
中國(guó)、美國(guó)、歐盟是全球AI發(fā)展的主要驅(qū)動(dòng)力,但三者在AI立法方面也存在一些不同。
歐盟《人工智能法案》從用途、功能等角度將人工智能應(yīng)用風(fēng)險(xiǎn)分為4個(gè)層級(jí),無(wú)論草案經(jīng)過(guò)幾輪修改,“風(fēng)險(xiǎn)分級(jí)”仍然是歐盟治理AI的核心理念。
金字塔頂端對(duì)應(yīng)對(duì)人類(lèi)安全造成“不可接受”的風(fēng)險(xiǎn)。例如,根據(jù)人們的社會(huì)行為或個(gè)人特征對(duì)其進(jìn)行分類(lèi)的打分系統(tǒng)等,這些將被完全禁止使用。
在最新草案中,歐洲議會(huì)擴(kuò)大了“不可接受的風(fēng)險(xiǎn)”清單,防止人工智能系統(tǒng)出現(xiàn)侵入性和歧視性。全面禁止公共空間生物識(shí)別、情感識(shí)別、預(yù)測(cè)性警務(wù)(基于側(cè)寫(xiě)、地點(diǎn)或過(guò)去的犯罪行為),以及從網(wǎng)絡(luò)隨意抓取面部圖像等六類(lèi)人工智能系統(tǒng)。
第二類(lèi)是對(duì)人類(lèi)安全或基本權(quán)利產(chǎn)生負(fù)面影響的人工智能系統(tǒng),會(huì)被視為“高風(fēng)險(xiǎn)”。例如,航空、汽車(chē)、醫(yī)療設(shè)備等產(chǎn)品中使用的AI系統(tǒng),以及必須在歐盟數(shù)據(jù)庫(kù)中注冊(cè)的八個(gè)特定領(lǐng)域,涵蓋關(guān)鍵基礎(chǔ)設(shè)施、教育、培訓(xùn)、執(zhí)法等。在符合人工智能規(guī)定和事先合格評(píng)定的情況下,各種“高風(fēng)險(xiǎn)”人工智能系統(tǒng)將獲得授權(quán),遵守一系列要求和義務(wù)才能進(jìn)入歐盟市場(chǎng)。
另外,影響選民和選舉結(jié)果的人工智能系統(tǒng),以及根據(jù)歐盟《數(shù)字服務(wù)法》,擁有超過(guò)4500萬(wàn)用戶(hù)的社交媒體平臺(tái)所使用的推薦系統(tǒng)也將被列入高風(fēng)險(xiǎn)名單,例如Facebook、Twitter和Instagram。
處在金字塔底部的是有限風(fēng)險(xiǎn)、風(fēng)險(xiǎn)很小或沒(méi)有風(fēng)險(xiǎn)的人工智能系統(tǒng)。前者具有特定透明度義務(wù),需要告知用戶(hù)正在與AI系統(tǒng)互動(dòng),后者無(wú)強(qiáng)制性規(guī)定,基本上不受監(jiān)管,如垃圾郵件過(guò)濾器等應(yīng)用。
因有著嚴(yán)格的監(jiān)管條款,《人工智能法案》被很多業(yè)內(nèi)人士視為長(zhǎng)了許多尖銳的“牙齒”。不過(guò),該法案也試圖在強(qiáng)監(jiān)管和創(chuàng)新之間尋求平衡。
例如,最新草案要求成員國(guó)至少建立一個(gè)可供中小企業(yè)和初創(chuàng)企業(yè)免費(fèi)使用的“監(jiān)管沙盒”,在一個(gè)受監(jiān)督和安全可控的場(chǎng)景中,對(duì)創(chuàng)新性人工智能系統(tǒng)在投入使用前進(jìn)行測(cè)試,直到滿(mǎn)足合規(guī)要求。歐盟普遍認(rèn)為,該提議不僅可以讓當(dāng)局實(shí)時(shí)關(guān)注技術(shù)變化,也幫助AI企業(yè)減輕監(jiān)管壓力的同時(shí)能繼續(xù)創(chuàng)新。
金玲在前述文章中稱(chēng),歐盟的上游治理方法一方面要求企業(yè)承擔(dān)更多的前置成本,另一方面也因?yàn)轱L(fēng)險(xiǎn)評(píng)估不確定性影響企業(yè)投資熱情。因此,盡管委員會(huì)一再?gòu)?qiáng)調(diào)人工智能立法將支持歐洲數(shù)字經(jīng)濟(jì)的創(chuàng)新和增長(zhǎng),但現(xiàn)實(shí)的經(jīng)濟(jì)分析似乎并不認(rèn)同這個(gè)結(jié)論。法案反映了歐盟在促進(jìn)創(chuàng)新和權(quán)利保護(hù)之間難以有效平衡的內(nèi)在沖突。
美國(guó)同歐盟、中國(guó)一樣,都支持主要基于風(fēng)險(xiǎn)的人工智能監(jiān)管方法,倡導(dǎo)準(zhǔn)確、安全、透明度。不過(guò),在趙精武看來(lái),美國(guó)監(jiān)管思路更注重利用AI,推動(dòng)AI行業(yè)的創(chuàng)新和發(fā)展,最終是為了保持美國(guó)的領(lǐng)導(dǎo)地位和競(jìng)爭(zhēng)力。
“不同于中國(guó)和歐盟秉持的‘風(fēng)險(xiǎn)預(yù)防和技術(shù)安全’監(jiān)管理念,美國(guó)則側(cè)重商業(yè)發(fā)展優(yōu)先。中國(guó)和歐盟均側(cè)重人工智能技術(shù)應(yīng)用安全保障,避免人工智能技術(shù)濫用侵害個(gè)體權(quán)利,美國(guó)則是以產(chǎn)業(yè)發(fā)展作為監(jiān)管重心?!壁w精武說(shuō)。
有研究發(fā)現(xiàn),美國(guó)國(guó)會(huì)立法主要集中在鼓勵(lì)和指導(dǎo)政府使用人工智能。例如,美國(guó)參議院曾于2021年推出一項(xiàng)人工智能創(chuàng)新法案,要求美國(guó)國(guó)防部實(shí)施一項(xiàng)試點(diǎn)計(jì)劃,以確保其能夠獲得最佳的人工智能和機(jī)器學(xué)習(xí)軟件能力。
查克·舒默在前述演講中就將創(chuàng)新視為北極星,其AI框架就是要釋放人工智能的巨大潛力,支持美國(guó)主導(dǎo)的人工智能技術(shù)創(chuàng)新?!度斯ぶ悄軕?yīng)用監(jiān)管指南》在開(kāi)篇就明確應(yīng)繼續(xù)促進(jìn)技術(shù)和創(chuàng)新的進(jìn)步?!?020年國(guó)家人工智能倡議法案》最終目標(biāo)也是要通過(guò)增加研究投入、建立勞動(dòng)力系統(tǒng)等手段確保美國(guó)在全球AI技術(shù)領(lǐng)域保持領(lǐng)先地位。
彭曉燕表示,從指導(dǎo)性的規(guī)范設(shè)計(jì)角度來(lái)看,美國(guó)立法及制度層面上對(duì)人工智能發(fā)展尚且處在弱監(jiān)管的態(tài)勢(shì),社會(huì)層面以開(kāi)放的態(tài)度積極鼓勵(lì)人工智能技術(shù)的創(chuàng)新與拓展。
與歐盟具有更加明確的調(diào)查權(quán)和全面的監(jiān)管覆蓋范圍相比,美國(guó)采取了一種分散化的人工智能監(jiān)管方式,部分州和機(jī)構(gòu)以較小程度推進(jìn)AI治理。這樣導(dǎo)致的結(jié)果是,全國(guó)性的AI監(jiān)管倡議都非常地寬泛和原則化。
例如,《藍(lán)圖》作為美國(guó)人工智能治理政策里程碑事件,制定了安全有效的系統(tǒng)、防止算法歧視、保護(hù)數(shù)據(jù)隱私、通知及說(shuō)明、人類(lèi)參與決策制定等五項(xiàng)基本原則,并無(wú)更加細(xì)致條款。
彭曉燕認(rèn)為,《藍(lán)圖》未制定具體的實(shí)施措施,而是以原則性規(guī)定的方式搭建人工智能發(fā)展基本框架,旨在指導(dǎo)人工智能系統(tǒng)設(shè)計(jì)、使用及部署。
“像這類(lèi)規(guī)范,不具有強(qiáng)制性,這是美國(guó)出于對(duì)人工智能產(chǎn)業(yè)扶持發(fā)展的考慮。目前,人工智能尚處于新興發(fā)展階段,高強(qiáng)度監(jiān)管勢(shì)必會(huì)一定程度上限制產(chǎn)業(yè)發(fā)展與創(chuàng)新,因而美國(guó)在立法上保持相對(duì)謙抑態(tài)度?!迸頃匝嗾f(shuō)。
“如果沒(méi)有法律賦予各機(jī)構(gòu)新的權(quán)力,它們就只能根據(jù)已有權(quán)力規(guī)范人工智能的使用。另一方面,對(duì)人工智能相關(guān)的道德原則保持較少規(guī)定,各機(jī)構(gòu)可以自行決定如何監(jiān)管,保留哪些使用權(quán)利?!笨▋?nèi)基分析師哈德里恩·普格(Hadrien Pouget)認(rèn)為,這使得以白宮為首的聯(lián)邦機(jī)構(gòu)既受限制又自由。
以利用和創(chuàng)新為主導(dǎo)的AI治理理念,注定美國(guó)的“拳頭”不會(huì)太硬。美國(guó)著名智庫(kù)布魯金斯學(xué)會(huì)研究員亞歷克斯·恩格勒(Alex Engler)指出,對(duì)于教育、金融、就業(yè)等具有社會(huì)影響力的人工智能,歐盟和美國(guó)正采取不同的監(jiān)管方法。
在對(duì)具體AI應(yīng)用上,歐盟《人工智能法案》對(duì)聊天機(jī)器人有透明度要求,而在美國(guó)還沒(méi)有聯(lián)邦層面的規(guī)定。面部識(shí)別被歐盟視為“不可接受的風(fēng)險(xiǎn)”,美國(guó)則是通過(guò)美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)人臉識(shí)別供應(yīng)商測(cè)試計(jì)劃提供公共信息,但不強(qiáng)制制定規(guī)則。
“歐盟的監(jiān)管范圍不僅涵蓋了更廣泛的應(yīng)用,而且為這些人工智能應(yīng)用制定了更多規(guī)則。而美國(guó)的做法更狹隘地局限于調(diào)整當(dāng)前的機(jī)構(gòu)監(jiān)管機(jī)構(gòu)來(lái)嘗試治理人工智能,人工智能的范圍也有限得多?!眮啔v克斯·恩格勒說(shuō),盡管存在寬泛的相同原則,但在AI風(fēng)險(xiǎn)管理中,分歧遠(yuǎn)多于趨同。
趙精武總結(jié)中國(guó)、歐盟、美國(guó)的AI監(jiān)管模式,發(fā)現(xiàn)中國(guó)以人工智能技術(shù)應(yīng)用場(chǎng)景為限,專(zhuān)門(mén)針對(duì)人臉識(shí)別技術(shù)、深度合成、自動(dòng)化推薦等應(yīng)用場(chǎng)景制定專(zhuān)門(mén)監(jiān)管規(guī)則。歐盟是以風(fēng)險(xiǎn)水平為導(dǎo)向,根據(jù)人工智能應(yīng)用的風(fēng)險(xiǎn)水平是否屬于可接受水平。美國(guó)則是在既有的傳統(tǒng)法律制度框架判斷人工智能技術(shù)應(yīng)用的合法性。
此外,美國(guó)也將更多注意力集中在人工智能研究上面,為其投入更多資金。就在5月初,美國(guó)白宮宣布投資約1.4億美元,建立七個(gè)新的國(guó)家級(jí)人工智能研究所。有研究者認(rèn)為,美國(guó)此舉是希望能更加了解AI,從而減輕監(jiān)管過(guò)程中產(chǎn)生的擔(dān)憂(yōu)。
彭曉燕則表示,我國(guó)采取鼓勵(lì)人工智能技術(shù)發(fā)展同時(shí)有限規(guī)范相關(guān)領(lǐng)域管理的措施,以調(diào)和的政策與管理要求引導(dǎo)人工智能技術(shù)發(fā)展。
我國(guó)立法面臨諸多現(xiàn)實(shí)難題
歐盟正加速落地全球首部AI監(jiān)管法案,趙精武告訴《中國(guó)新聞周刊》,歐盟的“風(fēng)險(xiǎn)等級(jí)制”人工智能監(jiān)管措施,《人工智能法案》提出的“通用模型”監(jiān)管概念,以及專(zhuān)門(mén)針對(duì)ChatGPT這類(lèi)生成式人工智能應(yīng)用的披露義務(wù)、數(shù)據(jù)版權(quán)合規(guī)義務(wù),都對(duì)我國(guó)人工智能立法有參考價(jià)值。
事實(shí)上,我國(guó)對(duì)于人工智能的立法早已起步,2017年國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出,到2025年,初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系,形成人工智能安全評(píng)估和管控能力。
地方上,2022年,深圳市出臺(tái)《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》,被看作我國(guó)首部人工智能產(chǎn)業(yè)專(zhuān)項(xiàng)立法?!稐l例》提到,完善人工智能領(lǐng)域監(jiān)管機(jī)制,防范人工智能產(chǎn)品和服務(wù)可能出現(xiàn)的倫理安全風(fēng)險(xiǎn)和合規(guī)風(fēng)險(xiǎn)。
當(dāng)前,我國(guó)人工智能規(guī)制主要由幾大部委共同推進(jìn),分別從不同領(lǐng)域推動(dòng)人工智能領(lǐng)域的規(guī)范和發(fā)展?!痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》等規(guī)范性文件也相繼出臺(tái)。
“綜合歷來(lái)管理規(guī)范來(lái)看,我國(guó)關(guān)于人工智能領(lǐng)域的規(guī)定采用區(qū)分業(yè)務(wù)領(lǐng)域、區(qū)分技術(shù)方向的措施,管理規(guī)范趨于分散化。在規(guī)范出臺(tái)上,往往具有應(yīng)時(shí)性特征,在特定技術(shù)出現(xiàn)后作出專(zhuān)門(mén)性管理規(guī)定。規(guī)范由行政部門(mén)主導(dǎo)頒布,側(cè)重監(jiān)管,在規(guī)范層級(jí)上未上升為法律?!迸頃匝嗾f(shuō)。
值得注意的是,6月20日,首批境內(nèi)深度合成服務(wù)算法備案清單出爐,百度、阿里巴巴、騰訊、字節(jié)跳動(dòng)、美團(tuán)等26家公司、共計(jì)41個(gè)算法榜上有名。
隨著AI立法熱度升溫,國(guó)內(nèi)開(kāi)始有專(zhuān)家呼吁盡快開(kāi)展人工智能法律規(guī)制。不過(guò),在趙精武看來(lái),我國(guó)人工智能專(zhuān)門(mén)立法具有一定的可行性,但是也面臨著諸多現(xiàn)實(shí)難題。
“一是立法文件之間的體系銜接問(wèn)題,人工智能專(zhuān)門(mén)立法與其他規(guī)范性文件之間的適用關(guān)系尚未解決,尤其是專(zhuān)門(mén)立法與現(xiàn)行立法在內(nèi)容層面的重疊問(wèn)題亟待解決。二是人工智能技術(shù)更新迭代速度加快,保障法律與技術(shù)的同步發(fā)展存在一定的難度;三是人工智能監(jiān)管規(guī)則缺乏整體性,數(shù)據(jù)、算法和算力三大核心要素的監(jiān)管規(guī)則仍處于探索階段;四是人工智能立法的重心究竟是以安全風(fēng)險(xiǎn)治理為主,還是以產(chǎn)業(yè)發(fā)展保障為主爭(zhēng)議較大?!壁w精武說(shuō)。
無(wú)論是歐盟的《人工智能法案》,還是中國(guó)、美國(guó)等國(guó)家針對(duì)AI的規(guī)定、倡議、規(guī)劃,都在試圖構(gòu)建一個(gè)完善的監(jiān)管框架:既能確保安全,又能為AI創(chuàng)造更好條件。
基于這種普適性原則,彭曉燕告訴《中國(guó)新聞周刊》,我國(guó)建立的人工智能法律,首先應(yīng)當(dāng)建立在積極鼓勵(lì)發(fā)展創(chuàng)新的基礎(chǔ)上,使得人工智能在相對(duì)開(kāi)放的空間領(lǐng)域進(jìn)行規(guī)范發(fā)展,劃定發(fā)展紅線(xiàn)。
“此外,還需要解決現(xiàn)下大家集中關(guān)心的人工智能領(lǐng)域法律問(wèn)題,包括但不限于人工智能違法違規(guī)內(nèi)容的禁止、人工智能數(shù)據(jù)安全保護(hù)、人工智能倫理安全的保障、知識(shí)產(chǎn)權(quán)侵權(quán)的防范等等?!迸頃匝嗾f(shuō)。
趙精武認(rèn)為,我國(guó)應(yīng)當(dāng)建立以產(chǎn)業(yè)發(fā)展保障為導(dǎo)向的人工智能法律。
“現(xiàn)行立法在一定程度已經(jīng)可以基本滿(mǎn)足人工智能技術(shù)應(yīng)用監(jiān)管的需求。預(yù)防技術(shù)風(fēng)險(xiǎn),保障技術(shù)安全只是治理過(guò)程,其最終目的仍然還是需要回歸到人工智能產(chǎn)業(yè)發(fā)展層面。畢竟人工智能法律不是限制產(chǎn)業(yè)發(fā)展,而是引導(dǎo)和保障相關(guān)產(chǎn)業(yè)的良性發(fā)展?!壁w精武說(shuō)。
相關(guān)稿件