搶占監(jiān)管先機 歐盟《人工智能法案》進入最終談判
法治日報記者 王衛(wèi)
據(jù)德新社近日報道,歐洲議會全體會議以499票贊成、28票反對、93票棄權(quán)的壓倒性優(yōu)勢表決通過了《人工智能法案》授權(quán)草案。這意味著,法案進入歐盟立法嚴(yán)格監(jiān)管人工智能技術(shù)應(yīng)用的最終談判階段,歐洲議會、歐盟委員會和成員國將進行“三方”談判,以確定法案的最終條款。德國《商報》稱,《人工智能法案》預(yù)計將在今年年底獲得最終批準(zhǔn),不過距離完全生效可能還需數(shù)年時間。
做好談判準(zhǔn)備
報道稱,歐洲議會決定對ChatGPT等生成式人工智能工具增加更多安全控制措施,以確保人工智能的研發(fā)和應(yīng)用符合歐盟相關(guān)法律法規(guī)。
作為全球首部通過議會程序、專門針對人工智能的綜合性立法,草案從安全、隱私、透明度以及非歧視等方面制定了詳細(xì)規(guī)則。據(jù)歐洲議會網(wǎng)站消息,歐洲議會“為制定史上首部人工智能法案已經(jīng)做好談判準(zhǔn)備”。按照立法議程,歐洲議會將就這一授權(quán)草案與歐盟委員會和成員國進行“三方”談判,歐洲立法者希望在今年年底前就法案的最終版本達成共識。
今年5月,歐洲議會市場委員會和公民自由委員會通過歐盟委員會于2021年4月提出的《人工智能法案》提案的談判授權(quán)草案。此前,歐洲議會和歐盟理事會已就草案進行多輪修訂和討論,并且在ChatGPT等生成式人工智能應(yīng)用橫空出世后,歐盟立法者緊急商討了原版本草案中未涵蓋的問題。歐洲議會聲明,這部提案如正式獲得批準(zhǔn),將成為全世界首部有關(guān)人工智能的法規(guī)。
草案將適用于在歐盟境內(nèi)將人工智能系統(tǒng)投放市場或投入使用的實體(無論該實體是在歐盟境內(nèi)還是在第三國)、在歐盟境內(nèi)使用人工智能系統(tǒng)的實體以及在第三國使用人工智能系統(tǒng),但系統(tǒng)的輸出用于歐盟境內(nèi)或?qū)W盟境內(nèi)人員產(chǎn)生影響的實體。
風(fēng)險分類監(jiān)管
《人工智能法案》授權(quán)草案的一個突出特點是注重基于風(fēng)險來制定監(jiān)管制度,以平衡人工智能的創(chuàng)新發(fā)展與安全規(guī)范。草案將人工智能風(fēng)險分為不可接受的風(fēng)險、高風(fēng)險、有限的風(fēng)險和極小的風(fēng)險四級,對應(yīng)不同的監(jiān)管要求。其中高風(fēng)險人工智能的使用必須受到嚴(yán)格監(jiān)管,系統(tǒng)提供者和使用者都要遵守數(shù)據(jù)管理、記錄保存、透明度、人為監(jiān)管等規(guī)定,以確保系統(tǒng)穩(wěn)定、準(zhǔn)確和安全。對于違反規(guī)定者,草案設(shè)定了最高3000萬歐元(1歐元約合人民幣7.895元)或全球年營業(yè)額6%的罰款。
草案嚴(yán)格禁止對人類安全造成不可接受風(fēng)險的人工智能系統(tǒng),包括部署潛意識或有目的操縱技術(shù)、利用人們?nèi)觞c或用于社會評分的系統(tǒng),并擴大了人工智能高風(fēng)險領(lǐng)域的分類,將對人們健康、安全、基本權(quán)利或環(huán)境的危害考慮在內(nèi)。草案還要求人工智能公司對其算法保持人為控制,提供技術(shù)文件,并為“高風(fēng)險”應(yīng)用建立風(fēng)險管理系統(tǒng),還針對ChatGPT等生成式人工智能設(shè)立專門監(jiān)管制度。每個歐盟成員國都將設(shè)立一個監(jiān)督機構(gòu)。
此外,引進監(jiān)管沙盒(指通過設(shè)立限制性條件和制定風(fēng)險管理措施,允許企業(yè)在真實的市場環(huán)境中,以真實的個人用戶與企業(yè)用戶為對象測試創(chuàng)新產(chǎn)品、服務(wù)和商業(yè)模式)機制以管控風(fēng)險和促進創(chuàng)新,在人工智能系統(tǒng)入市或投入使用前,對人工智能系統(tǒng)進行開發(fā)、測試和驗證降低風(fēng)險。草案還提出,這一機制同樣被允許用于在現(xiàn)實條件下測試創(chuàng)新人工智能,以鼓勵人工智能企業(yè)持續(xù)創(chuàng)新。
面臨重要挑戰(zhàn)
歐盟試圖建立一個統(tǒng)一的人工智能法律監(jiān)管框架,是全球人工智能發(fā)展進程中一個重要的標(biāo)志性事例。歐盟對人工智能進行有效法規(guī)約束的探討和嘗試都將產(chǎn)生全球性影響,可能引發(fā)越來越多的國家嘗試跟進相關(guān)法規(guī)的探索。
對于歐洲議會的決定,德國社民黨表示支持:“人工智能的潛力和風(fēng)險應(yīng)得到全社會關(guān)注?!钡灿蟹磳φ邠?dān)心監(jiān)管過度可能給歐洲人工智能公司帶來更高成本和過重負(fù)擔(dān)。
在人工智能開發(fā)方面處于領(lǐng)先地位的公司,某種程度上也是過去十年中面臨反壟斷違規(guī)風(fēng)險、違反現(xiàn)行法律以及造成信息泄露危害的科技公司?;诖耍琌penAI公司首席執(zhí)行官薩姆·阿爾特曼表示,如果《人工智能法案》對AI進行過度監(jiān)管,他將帶領(lǐng)團隊撤出歐洲市場。
專家稱,歐盟推動人工智能立法,有利于維護歐盟在數(shù)字主權(quán)和科技領(lǐng)域的領(lǐng)導(dǎo)地位,并通過這樣一部綜合性立法搶占全球人工智能監(jiān)管先機。但其本身具有局限性。它采用的是橫向立法,并非針對特定人工智能應(yīng)用領(lǐng)域,而是試圖把所有人工智能都納入監(jiān)管范圍,在執(zhí)行層面將面臨大量的解釋問題。
有聲音進一步指出,歐盟并未就人工智能技術(shù)可能給人類帶來什么樣的影響形成共識。從辯證的角度看,人工智能既能造福和服務(wù)人類,但如若用之不善,也會給人類帶來威脅或傷害,如何平衡創(chuàng)新和約束是歐盟立法機構(gòu)面臨的一個非常重要的挑戰(zhàn)。此外,統(tǒng)一的法律框架并未涉及具體法律規(guī)范,實際的執(zhí)行效果可能“大打折扣”。
國際社會認(rèn)為,當(dāng)前,人工智能技術(shù)發(fā)展仍處在探索期。歐盟此時制定《人工智能法案》,釋放出歐盟正在強化其在數(shù)字領(lǐng)域內(nèi)建規(guī)立制的強烈信號。如何更好地平衡與銜接技術(shù)創(chuàng)新和制度創(chuàng)新,還需在實踐中不斷修正。
版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。
- 教育部公布首批“十四五”職業(yè)教育國家規(guī)劃教材書目
- 時隔12年再奪冠!女籃亞洲杯決賽中國隊?wèi)?zhàn)勝日本隊
- 各地各高校聚焦畢業(yè)生實際困難 為畢業(yè)生就業(yè)創(chuàng)業(yè)保駕護航
- 業(yè)務(wù)量實現(xiàn)月均“百億級”增長 新技術(shù)研發(fā)與應(yīng)用推動我國快遞業(yè)高質(zhì)量發(fā)展
- 河北、江西、湖北等糧食主產(chǎn)區(qū)夏種加快推進
- 成都大運會火炬?zhèn)鬟f成都站啟動
- 第三屆中非經(jīng)貿(mào)博覽會閉幕 簽約項目累計120個
- 今年一季度末 科技型中小企業(yè)貸款余額同比增長25.2%
- 第八批國家藥品集采呈現(xiàn)“價降、量升、質(zhì)優(yōu)”態(tài)勢
- 央企持續(xù)加大投資力度 前5月完成投資同比增12.5%