2023年12月8日，歐盟成員國及歐洲議會議員就《人工智能法案》（以下稱“法案”）達成初步協(xié)議。當前，歐盟僅公布了法案的提案，尚未公布最終的法案版本，下一步，歐盟將就法案的更多技術(shù)細節(jié)進行最終討論確定后公布。法案為不同風險程度的人工智能系統(tǒng)施加不同的要求和義務(wù)，其提出的風險分類、價值鏈責任、負責任創(chuàng)新和實驗主義治理等思路對我國人工智能立法具有一定的借鑒意義。

一、出臺背景

法案是歐盟實現(xiàn)整體戰(zhàn)略的關(guān)鍵舉措。自2018年以來，歐盟先后出臺《歐洲人工智能戰(zhàn)略》《人工智能協(xié)調(diào)計劃》兩個重要政策文件，初步勾勒出歐盟人工智能的發(fā)展戰(zhàn)略框架。2020年，歐洲委員會發(fā)布了兩份有關(guān)“塑造歐洲數(shù)字未來戰(zhàn)略”的政策文件，其中，《人工智能白皮書》關(guān)注交通、醫(yī)療等公共領(lǐng)域的人工智能發(fā)展及風險化解；《歐洲數(shù)據(jù)戰(zhàn)略》提出推動歐盟成為世界上最具競爭力的數(shù)字敏捷型經(jīng)濟體，建立歐盟數(shù)字單一市場。在此背景下，2021年4月，歐盟出臺法案，從而在法律層面強化落實歐盟戰(zhàn)略，以期實現(xiàn)引領(lǐng)全球人工智能治理的目標。

法案是促進可信賴人工智能發(fā)展的現(xiàn)實基礎(chǔ)。人工智能系統(tǒng)可以部署在經(jīng)濟和社會的多個部門，并可以通過跨境部署實現(xiàn)在整個歐盟內(nèi)流通。已經(jīng)有成員國探索通過制定國家規(guī)則，確保人工智能在遵守基本權(quán)利義務(wù)的情況下開發(fā)和使用，然而，不同的國家規(guī)則可能導(dǎo)致內(nèi)部市場的分裂，并減損法律確定性。因此，為了實現(xiàn)可信賴的人工智能，歐盟通過制定法案為運營商規(guī)定統(tǒng)一的義務(wù)，確保在整個歐盟范圍內(nèi)提供一致的高水平保護，同時防止出現(xiàn)阻礙人工智能系統(tǒng)及相關(guān)產(chǎn)品和服務(wù)在內(nèi)部市場自由流通、創(chuàng)新、部署和采用的分歧。

法案是應(yīng)對人工智能技術(shù)潛在風險的重要方式。ChatGPT等通用人工智能技術(shù)的發(fā)展，迅速改變?nèi)斯ぶ悄芟到y(tǒng)的構(gòu)建和部署方式，其顛覆性特質(zhì)也帶來了侵犯個人隱私、泄露商業(yè)秘密、傳播虛假信息、造成信息繭房等安全隱患。ChatGPT等人工智能領(lǐng)域近期進展使得立法需求愈發(fā)重要、緊迫，因此，歐盟立法者就相關(guān)問題展開了廣泛且激烈的討論，歐盟理事會主席國也多次發(fā)布法案妥協(xié)文本，不斷增刪、澄清法案內(nèi)容。

二、主要內(nèi)容

法案圍繞人工智能系統(tǒng)的開發(fā)、投放市場及使用制定了監(jiān)管框架，采用基于風險的規(guī)制思路，為不同風險程度的人工智能系統(tǒng)施加不同的要求和義務(wù)。其中，禁止對人類安全造成不可接受風險的人工智能系統(tǒng)，為高風險人工智能系統(tǒng)規(guī)定具體要求和相關(guān)主體義務(wù)，并為某些人工智能系統(tǒng)規(guī)定透明度度義務(wù)。法案提案的具體內(nèi)容如下：

（一）一般性原則與禁止性規(guī)定

法案明確了適用于所有人工智能系統(tǒng)的一般原則以及禁止的人工智能行為。

一是明確了開發(fā)和使用人工智能系統(tǒng)或基礎(chǔ)模型需遵守的六項一般原則，包括：第一，人類主體和監(jiān)督，即人工智能系統(tǒng)應(yīng)作為服務(wù)于人、尊重人類尊嚴和個人自主權(quán)的工具來進行開發(fā)和使用，其運作方式可以由人類適當?shù)乜刂坪捅O(jiān)督。第二，技術(shù)穩(wěn)健性和安全性，即人工智能系統(tǒng)的開發(fā)和使用方式應(yīng)盡量減少意外傷害，并在出現(xiàn)問題時保持穩(wěn)健。第三，隱私和數(shù)據(jù)治理，即人工智能系統(tǒng)的開發(fā)和使用應(yīng)符合現(xiàn)有的隱私和數(shù)據(jù)保護規(guī)則，同時，其處理的數(shù)據(jù)在質(zhì)量和完整性方面也要符合高標準。第四，透明度，即人工智能系統(tǒng)的開發(fā)和使用方式應(yīng)允許適當?shù)目勺匪菪院涂山忉屝?，同時應(yīng)使用戶意識到他們與人工智能系統(tǒng)的交流或互動，以及適當告知用戶該人工智能系統(tǒng)的能力、限制以及對其權(quán)利的可能影響。第五，多樣性、非歧視和公平，即人工智能系統(tǒng)的開發(fā)和使用方式應(yīng)考慮不同類別的用戶，并促進機會平等、性別平等和文化多樣性，同時避免歐盟或國家法律禁止的歧視性影響和不公平的偏見。第六，社會和環(huán)境福祉，即人工智能系統(tǒng)應(yīng)以可持續(xù)和環(huán)境友好方式進行開發(fā)和使用，并使所有人類受益，同時監(jiān)測和評估對個人、社會和民主的長期影響。

二是明確了禁止開發(fā)和使用的特定人工智能系統(tǒng)。法案禁止“侵入性”和“歧視性”等人工智能系統(tǒng)的使用，包括：第一，采用超越人類意識的潛意識技術(shù)或有目的的操縱、欺騙技術(shù)，實質(zhì)性扭曲人類行為，并可能對人類帶來身體或心理傷害。第二，利用個人或特定群體的弱點，包括人格特征、社會經(jīng)濟狀況、年齡、身體或精神能力，實質(zhì)性扭曲人的行為，對人類造成或可能造成重大傷害。第三，為一般目的提供自然人社會評分，可能導(dǎo)致歧視性結(jié)果或?qū)δ愁惾后w進行排除、限制使用。第四，在公眾可進入的空間使用實時、遠程生物識別系統(tǒng)。

（二）高風險人工智能系統(tǒng)相關(guān)要求

高風險人工智能系統(tǒng)可能對人類的安全及基本權(quán)利產(chǎn)生負面影響，是歐盟法案的監(jiān)管重點。法案通過附件三列舉了高風險人工智能系統(tǒng)的范圍，包括應(yīng)用于生物識別和基于生物識別進行推斷，關(guān)鍵基礎(chǔ)設(shè)施的管理和運作，教育和職業(yè)培訓(xùn)，就業(yè)、工人管理和獲得自營職業(yè)，獲得和享受基本的私人服務(wù)和公共服務(wù)及福利，執(zhí)法工作，移民、庇護和邊境管制管理，司法行政和民主進程等領(lǐng)域的人工智能系統(tǒng)。同時，法案通過專章對高風險人工智能系統(tǒng)進行規(guī)范，明確了高風險人工智能系統(tǒng)的具體要求以及產(chǎn)業(yè)鏈相關(guān)主體的義務(wù)。

一方面，對高風險人工智能系統(tǒng)規(guī)定了具體要求：第一，建立風險管理制度。在人工智能系統(tǒng)的整個生命周期中，應(yīng)建立、實施、記錄和維護與高風險人工智能系統(tǒng)有關(guān)的風險管理系統(tǒng)。第二，建立數(shù)據(jù)管理制度。高風險人工智能系統(tǒng)的訓(xùn)練、驗證和測試數(shù)據(jù)集應(yīng)滿足適合系統(tǒng)預(yù)期目的的數(shù)據(jù)管理要求。第三，制定技術(shù)文件。應(yīng)在該系統(tǒng)投放市場或投入使用之前制定高風險人工智能系統(tǒng)的技術(shù)文件，并保持更新。第四，留存相關(guān)記錄。高風險人工智能系統(tǒng)的設(shè)計和開發(fā)應(yīng)具有在系統(tǒng)運行時能夠自動記錄事件的能力。第五，保障系統(tǒng)的準確性、穩(wěn)健性和網(wǎng)絡(luò)安全。

另一方面，針對高風險人工智能系統(tǒng)產(chǎn)業(yè)鏈的不同參與者明確了細化的義務(wù)性要求：

高風險人工智能系統(tǒng)的提供者是指開發(fā)人工智能系統(tǒng)的自然人、法人、公共當局或其他機構(gòu)。相關(guān)義務(wù)主要包括：第一，保障系統(tǒng)安全，提供者應(yīng)確保高風險人工智能系統(tǒng)滿足上述高風險人工智能系統(tǒng)相關(guān)要求；建立質(zhì)量管理系統(tǒng)；確保進行人為監(jiān)督的自然人了解自動化相關(guān)風險；遵守備案義務(wù)，在歐盟數(shù)據(jù)庫中備案該系統(tǒng)；發(fā)現(xiàn)高風險人工智能系統(tǒng)不符合法案規(guī)定時，立刻采取糾正措施并通知分發(fā)者、進口者、主管部門以及部署者等；確保高風險人工智能系統(tǒng)符合無障礙要求。第二，標明相關(guān)信息，在高風險人工智能系統(tǒng)上標明提供者的名稱、商標、地址、聯(lián)系方式等信息；在高風險人工智能系統(tǒng)上以明顯、清晰的方式加貼永久性CE標志。第三，留存相關(guān)資料，制定并保存高風險人工智能系統(tǒng)技術(shù)文件；保留高風險人工智能系統(tǒng)自動生成的日志；應(yīng)國家監(jiān)督機構(gòu)的合理要求，提供所有必要的信息和文件，以證明高風險人工智能系統(tǒng)符合相關(guān)要求。

高風險人工智能系統(tǒng)的進口者是指將帶有在歐盟外自然人或法人名稱、商標的人工智能系統(tǒng)，投放市場或投入使用的歐盟內(nèi)自然人或法人。主要義務(wù)包括：確保提供者實施了相關(guān)合格評估程序；確保提供者起草了技術(shù)文件；確保人工智能系統(tǒng)帶有所需的合格標志，并附有所需的文件和使用說明。此外，進口者也應(yīng)按規(guī)定履行信息披露的義務(wù)以及與主管部門合作的義務(wù)。

基礎(chǔ)模型提供者是指在海量數(shù)據(jù)集上進行規(guī)模化訓(xùn)練的人工智能模型提供者。基礎(chǔ)模型提供者在向市場提供模型前，均應(yīng)確保該模型符合以下要求：第一，確保系統(tǒng)滿足使用要求，進行適當?shù)南到y(tǒng)設(shè)計、測試和分析；通過評估，確保基礎(chǔ)模型在整個生命周期內(nèi)滿足性能、可預(yù)測性、可解釋性、可糾正性、安全性和網(wǎng)絡(luò)安全等方面要求；制定廣泛的技術(shù)文件和可理解的使用說明；建立質(zhì)量管理系統(tǒng)。第二，滿足數(shù)據(jù)處理、效率要求，只處理和使用滿足基礎(chǔ)模型數(shù)據(jù)處理目的的數(shù)據(jù)集；提高系統(tǒng)的整體效率。第三，進行備案，提供者應(yīng)在歐盟數(shù)據(jù)庫中對該基礎(chǔ)模型進行備案。此外，將基礎(chǔ)模型專門用于生成式人工智能時，基礎(chǔ)模型提供者還應(yīng)當：遵守透明度義務(wù)，采取足夠的保障措施防止產(chǎn)生違反歐盟法律的內(nèi)容；在不影響國家或歐盟版權(quán)立法的情況下，記錄并公開提供受版權(quán)法保護的訓(xùn)練數(shù)據(jù)使用情況的詳細摘要。

高風險人工智能系統(tǒng)部署者是指在授權(quán)情況下使用人工智能系統(tǒng)的自然人或法人、公共當局、或其他機構(gòu)。相關(guān)義務(wù)包括：第一，適當使用，部署者應(yīng)采取適當?shù)募夹g(shù)和組織措施，以確保按照系統(tǒng)所附的使用說明使用這些系統(tǒng)。第二，開展人為監(jiān)督，在部署者對高風險人工智能系統(tǒng)進行控制的情況下，應(yīng)按照法案要求實施人為監(jiān)督；確保進行監(jiān)督的自然人有能力、有適當?shù)馁Y格和培訓(xùn)，并擁有必要的權(quán)力；確保定期監(jiān)測系統(tǒng)穩(wěn)健性和網(wǎng)絡(luò)安全措施的有效性。第三，開展評估，在高風險人工智能系統(tǒng)投入使用前，部署者應(yīng)進行基本權(quán)利影響評估，評估因素包括系統(tǒng)的預(yù)期目的、預(yù)期使用的地理與時間范圍、可預(yù)見的影響與風險、降低負面影響的方案等內(nèi)容。

（三）人工智能治理機制

為實現(xiàn)對于人工智能系統(tǒng)的有效治理，歐盟引入了人工智能辦公室和成員國監(jiān)督機構(gòu)。一方面，設(shè)立歐盟人工智能辦公室。人工智能辦公室由管理委員會、秘書處、咨詢論壇組成，負責促進法案的實施并協(xié)調(diào)各成員國監(jiān)督機構(gòu)之間的合作，從而避免成員國各自為政，確保單一市場的最佳運作。另一方面，各成員國應(yīng)指定一個國家監(jiān)督機構(gòu)。國家監(jiān)督機構(gòu)應(yīng)根據(jù)法案監(jiān)測各項規(guī)定的適用情況，并通過與其他成員國的監(jiān)督機構(gòu)、相關(guān)的國家主管部門、歐盟委員會、人工智能辦公室之間的合作，促進法案在整個歐盟的一致適用。

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。