人工智能法案（EU Artificial Intelligence Act，又稱：AI法案），旨在從歐盟層面協(xié)調(diào)各國不同的人工智能監(jiān)管機(jī)制，減少AI系統(tǒng)開發(fā)者和使用者所面臨的法律不確定性，確保消費(fèi)者對(duì)人工智能技術(shù)的信心。
2021年4月，歐盟委員會(huì)提出《人工智能法案》草案，此后歐洲議會(huì)和歐盟理事會(huì)就此進(jìn)行了多輪討論和修訂。2022年9月，歐盟委員會(huì)發(fā)布《人工智能責(zé)任指令》提案，擬就AI造成的損害設(shè)定賠償規(guī)則。2023年6月，歐洲議會(huì)通過了《AI法案》授權(quán)草案。2023年12月8日，歐盟就《人工智能法案》達(dá)成協(xié)議，該項(xiàng)法案旨在通過全面監(jiān)管人工智能，為這一技術(shù)的開發(fā)和使用提供更好的條件，并對(duì)生成式人工智能工具（如OpenAI的ChatGPT和谷歌的Bard）實(shí)施一系列控制措施。2024年2月2日，歐盟27國代表一致支持《人工智能法案》文本。歐洲議會(huì)定于2024年3月13日就這項(xiàng)立法進(jìn)行投票，一些條款會(huì)在2024年生效，其余會(huì)在2026年生效。2024年3月13日，歐洲議會(huì)批準(zhǔn)了《人工智能法案》，使其成為全球首部全面監(jiān)管AI的法規(guī)。8月1日，歐盟《人工智能法案》正式生效。
歷史沿革
2019年4月，歐盟委員會(huì)發(fā)布人工智能倫理準(zhǔn)則，列出了評(píng)價(jià)“可信賴人工智能”的7項(xiàng)標(biāo)準(zhǔn)。2020年2月，歐盟出臺(tái)的《人工智能白皮書》，設(shè)立了諸條政策選項(xiàng)，以促進(jìn)人工智能在歐盟的運(yùn)用，應(yīng)對(duì)與該技術(shù)的某些用途相連之風(fēng)險(xiǎn)，在全面尊重歐盟公民的價(jià)值和權(quán)利之情形下，能在歐盟得到可靠的、可信賴的發(fā)展。
2021年4月，歐盟委員會(huì)提出《人工智能法案》草案，歐洲議會(huì)和歐盟理事會(huì)進(jìn)行了多輪討論和修訂，并在ChatGPT等生成式人工智能出現(xiàn)后對(duì)原草案內(nèi)容進(jìn)行了調(diào)整。建立了針對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)(AI系統(tǒng))所致?lián)p害的風(fēng)險(xiǎn)預(yù)防機(jī)制，以保護(hù)自然人的安全、健康及其享有的歐盟憲章治下的基本權(quán)利。2022年9月，歐盟委員會(huì)發(fā)布《人工智能責(zé)任指令》提案，擬就AI造成的損害設(shè)定賠償規(guī)則。
2023年6月，歐洲議會(huì)以499票贊成、28票反對(duì)和93票棄權(quán)，高票通過了《人工智能法案》談判授權(quán)草案，推動(dòng)了該法案進(jìn)入立法程序的最后階段，即舉行歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)的“三方談判”，以確定法案的最終條款。12月9日，經(jīng)過36個(gè)小時(shí)談判，歐盟成員國及歐洲議會(huì)議員，就全球首個(gè)監(jiān)管包括ChatGPT在內(nèi)的人工智能的全面法規(guī)達(dá)成初步協(xié)議，該法案將成為全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)。一旦正式立法，該法案將成為全球首個(gè)人工智能領(lǐng)域的全面性立法，同時(shí)也是全球人工智能監(jiān)管的重要里程碑。歐洲議會(huì)定于2024年3月13日就這項(xiàng)立法進(jìn)行投票，該法案的一些條款會(huì)在2024年生效，其余在2026年生效。該法案將根據(jù)風(fēng)險(xiǎn)對(duì)人工智能的不同用途進(jìn)行監(jiān)管，包括對(duì)某些使用案例的禁止，比如工作場所的“情緒識(shí)別”系統(tǒng)，這會(huì)面臨最高的罰款：全球收入的7%或3500萬歐元，以較高者為準(zhǔn)。
2024年3月13日，在法國斯特拉斯堡舉行的歐洲議會(huì)全會(huì)上，議員們以523票贊成、46票反對(duì)、49票棄權(quán)正式通過了《人工智能法案》，使其成為全球首部全面監(jiān)管AI的法規(guī)。該法案將在走完所有審批程序后在歐盟公報(bào)上予以公布并于20天后生效。法案中的相關(guān)條款將分階段實(shí)施。8月1日，歐盟《人工智能法案》正式生效。2025年2月4日，歐盟又出臺(tái)有關(guān)《人工智能法案》的指南，明確人工智能的“禁區(qū)”。2月10日，法國總統(tǒng)埃馬紐埃爾·馬克龍和歐洲聯(lián)盟高級(jí)官員在法國巴黎人工智能行動(dòng)峰會(huì)上表示，歐盟計(jì)劃放松對(duì)人工智能技術(shù)開發(fā)的監(jiān)管，以助其在歐盟地區(qū)蓬勃發(fā)展。
法案內(nèi)容
近年來，人工智能愈加凸顯出對(duì)經(jīng)濟(jì)與社會(huì)發(fā)展的強(qiáng)大驅(qū)動(dòng)力與潛力，但同時(shí)，其發(fā)展也帶來一定的風(fēng)險(xiǎn)。基于此，歐盟兩年前著手制定《人工智能法案》（以下簡稱《法案》），意圖通過統(tǒng)一的法律監(jiān)管框架，以基于風(fēng)險(xiǎn)識(shí)別分析的方法，為不同類型的人工智能系統(tǒng)提出不同的要求和義務(wù)，從而確?；谌斯ぶ悄艿纳唐泛头?wù)在高度保護(hù)健康、安全、公民基本權(quán)利和保障公共利益的前提下，促進(jìn)人工智能規(guī)范化的開發(fā)、使用和營銷。
2023年6月，歐洲議會(huì)以499票贊成、28票反對(duì)和93票棄權(quán)，高票通過了《人工智能法案》談判授權(quán)草案，推動(dòng)了該法案進(jìn)入立法程序的最后階段，即舉行歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)的“三方談判”，以確定法案的最終條款?！斗ò浮纷罱K審批通過后，將會(huì)為企業(yè)和組織留出一段寬限適應(yīng)期，通常為兩年左右。
《法案》是第一部通過議會(huì)程序?qū)ｉT針對(duì)人工智能的綜合性立法。雖然歐洲議會(huì)和歐盟委員會(huì)、歐洲理事會(huì)之間對(duì)于人工智能監(jiān)管仍存在一些分歧，《法案》的最終版本仍將妥協(xié)和調(diào)整，但《法案》確立的規(guī)則將完全符合歐盟的權(quán)力和價(jià)值觀。
《法案》主要內(nèi)容
管轄范圍和域外效力
《法案》主要監(jiān)管人工智能系統(tǒng)的提供者和部署者，兩個(gè)定義的范圍都非常廣泛，只要是提供人工智能服務(wù)的主體，無論是開發(fā)、發(fā)行，還是僅僅作為經(jīng)銷商或中間授權(quán)方，都屬于監(jiān)管的對(duì)象。對(duì)于人工智能系統(tǒng)的產(chǎn)業(yè)參與者，只要其針對(duì)歐盟市場提供產(chǎn)品或開展服務(wù)，或其產(chǎn)品、服務(wù)有可能在歐盟境內(nèi)被銷售、使用，甚至位于歐盟的用戶可能因使用其產(chǎn)品受到不利影響，都需要遵守《法案》的相關(guān)規(guī)定。
具體而言，《法案》的管轄（包括域外適用）范圍，包括屬人、屬地和實(shí)質(zhì)判斷多個(gè)管轄標(biāo)準(zhǔn)，提供者和部署者的下列活動(dòng)均會(huì)受到《法案》監(jiān)管：（1）將人工智能系統(tǒng)投入歐盟市場或在歐盟內(nèi)投入使用的提供者，無論這些提供者是在歐盟域內(nèi)還是歐盟域外國家；（2）在歐盟域內(nèi)設(shè)立機(jī)構(gòu)或位于歐盟域內(nèi)的人工智能系統(tǒng)的部署者；（3）即使提供者或部署者的營業(yè)場所位于歐盟域外第三國，而該第三國因國際法適用歐盟成員國法律，或者該系統(tǒng)輸出的內(nèi)容在歐盟域內(nèi)使用；（4）基于健康、安全或基本權(quán)利使用在歐盟投放市場的人工智能系統(tǒng)受到不利影響者。
基于風(fēng)險(xiǎn)識(shí)別的監(jiān)管框架
《法案》對(duì)不同人工智能的風(fēng)險(xiǎn)程度進(jìn)行分級(jí)并采取不同的監(jiān)管措施，將人工智能的風(fēng)險(xiǎn)等級(jí)區(qū)分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、低或輕微風(fēng)險(xiǎn)，其中前三類將受到《法案》的監(jiān)管：
（1）不可接受的風(fēng)險(xiǎn)的人工智能系統(tǒng)是禁止的。對(duì)人的安全具有不可接受的風(fēng)險(xiǎn)的人工智能系統(tǒng)將被禁止，如部署潛意識(shí)技術(shù)的人工智能系統(tǒng)、公共場所的“實(shí)時(shí)”遠(yuǎn)程生物識(shí)別系統(tǒng)、使用敏感特征的生物識(shí)別分類系統(tǒng)、預(yù)測(cè)性警務(wù)系統(tǒng)、執(zhí)法邊境管理、工作場所和教育機(jī)構(gòu)中的情緒識(shí)別系統(tǒng)、無針對(duì)性地從互聯(lián)網(wǎng)或閉路電視錄像中抓取面部圖像以創(chuàng)建面部識(shí)別數(shù)據(jù)庫的系統(tǒng)等。
（2）高風(fēng)險(xiǎn)人工智能系統(tǒng)要重點(diǎn)監(jiān)管。《法案》要求提供者將產(chǎn)品投入市場前，均應(yīng)在歐盟委員會(huì)的數(shù)據(jù)庫進(jìn)行注冊(cè)，并進(jìn)行一般性事前評(píng)估：在使用“CE”標(biāo)識(shí)（即安全合格標(biāo)志）并投放市場前，均應(yīng)遵守現(xiàn)有產(chǎn)品安全法規(guī)的相關(guān)要求，如歐盟尚無相關(guān)產(chǎn)品安全法規(guī)的，提供者應(yīng)自行進(jìn)行合格性評(píng)估。而對(duì)用于生物識(shí)別的高風(fēng)險(xiǎn)人工智能系統(tǒng)，則需由歐盟認(rèn)證機(jī)構(gòu)進(jìn)行評(píng)估?！斗ò浮愤€對(duì)人工智能產(chǎn)業(yè)鏈的不同參與者也提出了細(xì)化要求：提供者是人工智能系統(tǒng)的最終負(fù)責(zé)人，部署者要履行風(fēng)險(xiǎn)防范義務(wù)，其他參與者要履行以審查義務(wù)為核心的一系列的合規(guī)義務(wù)。
（3）有限風(fēng)險(xiǎn)人工智能系統(tǒng)需遵循透明度要求。該類風(fēng)險(xiǎn)等級(jí)的人工智能系統(tǒng)無須取得特殊牌照、認(rèn)證或履行報(bào)告、記錄、留存等義務(wù)，但應(yīng)遵循透明度原則，允許適當(dāng)?shù)目勺匪菪院涂山忉屝?，?yīng)讓用戶知悉其與人工智能系統(tǒng)的交流或互動(dòng)。
通用型人工智能和基礎(chǔ)模型的特別監(jiān)管
《法案》審議過程中，以ChatGPT-3、DALL-E、Midjourney等為代表的通用型人工智能的風(fēng)靡引起歐盟立法者的關(guān)注，故在《法案》中對(duì)通用型人工智能系統(tǒng)和基礎(chǔ)模型有特別監(jiān)管措施。
通用型人工智能系統(tǒng)是指具有廣泛適用性的人工智能系統(tǒng)，包括但不限于圖像和語音識(shí)別、音頻和視頻生成、翻譯和其他功能?；A(chǔ)模型是指經(jīng)過大量的數(shù)據(jù)訓(xùn)練，具有很強(qiáng)的可適應(yīng)性的人工智能系統(tǒng)模型，典型代表如GPT模型、Stable?Diffusion模型等?！斗ò浮穼?duì)通用型人工智能系統(tǒng)和基礎(chǔ)模型提出了特別要求，即應(yīng)當(dāng)適用高風(fēng)險(xiǎn)人工智能系統(tǒng)的監(jiān)管規(guī)則，其中通用型人工智能系統(tǒng)的提供者應(yīng)履行相關(guān)的內(nèi)部控制和合格性評(píng)估程序，產(chǎn)品投入市場后10年內(nèi)向監(jiān)管部門提供技術(shù)文件等。
基礎(chǔ)模型的提供者應(yīng)在歐盟數(shù)據(jù)庫中進(jìn)行注冊(cè)，制定詳細(xì)的技術(shù)文件和易懂的使用說明，建立質(zhì)量管理體系等。
倡導(dǎo)負(fù)責(zé)任的研究和創(chuàng)新
具體路徑包括建立人工智能科學(xué)家和工程師的道德責(zé)任、研究人工智能的倫理設(shè)計(jì)、推動(dòng)人工智能跨學(xué)科、多主體之間的對(duì)話、加強(qiáng)社會(huì)公眾參與?！斗ò浮愤€提倡監(jiān)管沙盒，即由公共當(dāng)局建立現(xiàn)實(shí)生活中的受控環(huán)境，并在有限的時(shí)間內(nèi)促進(jìn)創(chuàng)新人工智能系統(tǒng)的開發(fā)、測(cè)試和驗(yàn)證，然后再有計(jì)劃地投放市場或投入使用?！斗ò浮饭膭?lì)成員國研究和開發(fā)對(duì)社會(huì)與環(huán)境有益的人工智能方案，如為殘疾人提供方便、解決社會(huì)經(jīng)濟(jì)不平等問題，這些體現(xiàn)了人本主義，即實(shí)現(xiàn)可持續(xù)發(fā)展、科技向善、多方共治和社會(huì)包容等人文目標(biāo)。
嚴(yán)格的執(zhí)行機(jī)制和懲罰措施
《法案》規(guī)定，歐盟委員會(huì)負(fù)責(zé)促進(jìn)《法案》的實(shí)施并協(xié)調(diào)各成員國監(jiān)督機(jī)構(gòu)之間的合作，各成員國監(jiān)督機(jī)構(gòu)具體負(fù)責(zé)對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)合規(guī)情況的監(jiān)督，有權(quán)要求系統(tǒng)提供者對(duì)不合規(guī)的人工智能系統(tǒng)進(jìn)行改進(jìn)，甚至禁止、限制、撤銷或召回不符合《法案》要求的人工智能系統(tǒng)。為制裁不遵守法案的行為，《法案》制定了不同的行政罰款：對(duì)不遵守禁止性人工智能系統(tǒng)相關(guān)規(guī)定的主體，將被處以最高4000萬歐元或全球年總營業(yè)額的7%的罰款；對(duì)不遵守高風(fēng)險(xiǎn)人工智能系統(tǒng)項(xiàng)下有關(guān)數(shù)據(jù)及數(shù)據(jù)治理、明確說明義務(wù)的主體，將被處以最高可達(dá)2000萬歐元或全球年總營業(yè)額的4%的罰款；對(duì)未遵守《法案》其他規(guī)定（包括對(duì)于基礎(chǔ)模型的規(guī)定）的主體，將被處以最高可達(dá)1000萬歐元或全球年總營業(yè)額的2%的罰款。
《法案》面臨的挑戰(zhàn)
人工智能迭代快，監(jiān)管機(jī)制前瞻難
歐洲立法者希望為人工智能領(lǐng)域的規(guī)范發(fā)展建立一套完整、系統(tǒng)的監(jiān)管框架，但人工智能近年來的快速發(fā)展和更新迭代，為《法案》預(yù)期目標(biāo)的實(shí)現(xiàn)帶來了不小挑戰(zhàn)，《法案》在審議過程中的爭論以及《法案》推進(jìn)到后期時(shí)，對(duì)通用型人工智能和基礎(chǔ)模型不得不緊急“打補(bǔ)丁”，都反映出法律的監(jiān)管滯后于人工智能行業(yè)的發(fā)展。
超前制定監(jiān)管措施，引發(fā)產(chǎn)業(yè)發(fā)展擔(dān)憂
歐盟數(shù)字領(lǐng)域立法一直走在前列，但總體而言，屬于偏規(guī)制型的立法，對(duì)產(chǎn)業(yè)促進(jìn)方面的規(guī)定較少?！斗ò浮烦昂瓦^度的監(jiān)管讓人工智能實(shí)務(wù)界充滿擔(dān)憂：如可能使人工智能企業(yè)在歐洲承擔(dān)過高的成本，可能迫使創(chuàng)業(yè)者和創(chuàng)新者轉(zhuǎn)移至監(jiān)管環(huán)境寬松的地方等。
企業(yè)自治要求高，規(guī)制有效性存疑
《法案》對(duì)人工智能系統(tǒng)提供者附加的合規(guī)評(píng)估義務(wù)僅涉及內(nèi)部程序，外部監(jiān)督不足，對(duì)批準(zhǔn)入市后的人工智能系統(tǒng)監(jiān)管過于寬松，可能降低規(guī)制的有效性和可執(zhí)行性。
《法案》廣泛的管轄范圍和域外效力，基于風(fēng)險(xiǎn)等級(jí)的全過程監(jiān)管以及嚴(yán)格的執(zhí)行懲罰措施，引發(fā)了歐盟企業(yè)對(duì)合規(guī)壓力和隱形成本的擔(dān)憂。歐盟在平臺(tái)責(zé)任、隱私保護(hù)、網(wǎng)絡(luò)版權(quán)等方面出臺(tái)的規(guī)則均較早，但形成反差的是，歐盟近20年互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展并未領(lǐng)先。政府對(duì)產(chǎn)業(yè)治理的根本出發(fā)點(diǎn)是為了更好的發(fā)展，因此，在推動(dòng)立法過程中，應(yīng)堅(jiān)持規(guī)范與發(fā)展并重的原則，使用政策指南、沙盒技術(shù)、應(yīng)用試點(diǎn)等監(jiān)管工具，實(shí)現(xiàn)規(guī)范發(fā)展和鼓勵(lì)創(chuàng)新的雙重價(jià)值目標(biāo)。
相關(guān)評(píng)論
2023年7月，西門子股份公司、空中客車公司、路易·雷諾、喜力等超過150家知名企業(yè)的高管聯(lián)合給歐盟委員會(huì)、歐洲議會(huì)和歐盟成員國致公開信，表達(dá)擔(dān)憂：“歐盟擬議的規(guī)則將對(duì)AI模型進(jìn)行嚴(yán)格監(jiān)管，這會(huì)給參與AI開發(fā)的企業(yè)帶來更高成本和過重負(fù)擔(dān)，從而危及歐洲競爭力和歐盟推崇的技術(shù)主權(quán)?！薄?a href="/hebeideji/7298181419314085927.html">英國《金融時(shí)報(bào)》
歐盟成為第一個(gè)為人工智能使用設(shè)立明確規(guī)則的地區(qū)?！度斯ぶ悄芊ò浮凡粌H是一本規(guī)則手冊(cè)，也將成為歐盟初創(chuàng)企業(yè)和研究人員引領(lǐng)全球人工智能競賽的助推器。——歐洲聯(lián)盟內(nèi)部市場委員蒂埃里·布雷東
斯坦福大學(xué)最近的一項(xiàng)研究表明，包括谷歌Palm2和OpenAI公司GPT—4在內(nèi)的大多數(shù)人工智能模型都不符合歐盟《人工智能法案》的要求。該法案可能給科技企業(yè)施加更多合規(guī)義務(wù)。“科技企業(yè)認(rèn)為，監(jiān)管過度可能給AI戴上‘枷鎖’。”——歐洲新聞電視臺(tái)
針對(duì)歐盟日前發(fā)出的AI監(jiān)管合作邀請(qǐng)，不少亞洲國家“反應(yīng)冷淡”，新加坡和菲律賓方面表示將會(huì)“觀望”，日本方面則表示更傾向于寬松的規(guī)定。——路透社
技術(shù)和產(chǎn)業(yè)方面的相對(duì)劣勢(shì)也可能削弱歐盟AI監(jiān)管的“后勁”。“目前，歐盟在AI基礎(chǔ)研發(fā)、數(shù)字市場等方面的競爭力相對(duì)不足。在與AI發(fā)展密切相關(guān)的芯片領(lǐng)域，歐盟也缺乏相應(yīng)的先進(jìn)制造能力。這都可能對(duì)歐盟在AI監(jiān)管領(lǐng)域的長遠(yuǎn)布局構(gòu)成挑戰(zhàn)。”——中國社會(huì)科學(xué)院歐洲研究所副研究員楊成玉
參考資料 >
英國政府發(fā)布新人工智能規(guī)則提議，擬區(qū)別于歐盟AI法案.百家號(hào).2023-12-09
歐盟《AI法案》最新進(jìn)展：立法者據(jù)稱在具體內(nèi)容上存在分歧.百家號(hào).2023-12-09
歐盟謀求AI監(jiān)管領(lǐng)域主導(dǎo)權(quán).人民網(wǎng).2023-12-09
外媒:歐盟就全球首個(gè)全面監(jiān)管AI法案達(dá)成初步協(xié)議. 京報(bào)網(wǎng).2023-12-09
歐洲議會(huì)正式通過人工智能監(jiān)管法案.央視網(wǎng).2024-03-14
對(duì)歐盟《人工智能責(zé)任指令》的析與思.對(duì)歐盟《人工智能責(zé)任指令》的析與思.2023-12-09
ZAFT觀點(diǎn) | 國際監(jiān)管專題之監(jiān)管沙盒.微信公眾平臺(tái).2025-06-05
歐盟準(zhǔn)備制定全面的人工智能規(guī)則 或產(chǎn)生全球性影響.騰訊網(wǎng).2024-03-07
歐洲議會(huì)批準(zhǔn)《人工智能法案》成為全球首部全面的AI監(jiān)管法規(guī).百家號(hào).2024-03-14
歐盟有意為人工智能開發(fā)“松綁”.今日頭條.2025-02-12
403 Forbidden.新華網(wǎng).2023-12-09
全球首部AI法案要來了！歐盟談判獲重大進(jìn)展 AI監(jiān)管迎又一里程碑.百家號(hào).2023-12-09
歐洲議會(huì)通過《人工智能法案》.百家號(hào).2024-03-14
歐盟《人工智能法案》規(guī)制路徑概覽.人民法院報(bào).2023-12-09