為了確保人工智能系統(tǒng)的發(fā)展和應用符合人權、民主和法治的原則，歐洲委員會于2024年9月5日在維爾紐斯開放《人工智能與人權、民主和法治框架公約》（Artificial Intelligence and Human Rights,Democracy and the Rule of Law，以下簡稱《公約》）供簽署，當日已有美國、英國、歐盟、挪威、以色列等國家和國際組織簽署。《公約》于2022年開始起草，于2024年3月敲定最終草案，于5月在歐洲委員會部長委員會年度部長級會議上通過，于9月5日開放簽署。歐洲委員會稱這是全球第一份具有法律約束力的人工智能國際公約，旨在確保人工智能系統(tǒng)的使用符合人權、民主和法治要求。該《公約》的制定旨在建立一個全球適用的法律框架，以規(guī)范人工智能系統(tǒng)在生命周期內(nèi)的活動，促進人工智能技術的可持續(xù)發(fā)展，保護人類的基本權利和自由。以下對《公約》主要內(nèi)容進行介紹，以供各方參考。

隨著科學技術的加速發(fā)展，人工智能系統(tǒng)在醫(yī)療、交通、金融、教育等各個領域得到了廣泛的應用，為人們的生活帶來了便利，提高了生產(chǎn)效率，推動了經(jīng)濟的發(fā)展。然而，人工智能系統(tǒng)的生命周期內(nèi)活動也帶來了一些潛在的風險和挑戰(zhàn)，如算法偏見、數(shù)據(jù)隱私泄露、自動化決策導致的不公平等，可能會對人權、民主和法治造成負面影響，需要制定相應的法律框架來加以規(guī)范。該《公約》的目的是在確保人工智能系統(tǒng)生命周期內(nèi)的活動完全符合人權、民主和法治的原則，保護個人的尊嚴、自主權、隱私權和其他基本權利，維護民主制度的完整性和有效性，促進法治的實施與監(jiān)督。

（一）范圍與定義

《公約》明確了“人工智能系統(tǒng)”的定義，指基于機器的能從輸入推斷如何生成影響環(huán)境的輸出（如預測、內(nèi)容、推薦或決策）的系統(tǒng)。《公約》的范圍涵蓋了有可能干擾人權、民主和法治的人工智能系統(tǒng)生命周期內(nèi)的活動。此外，《公約》規(guī)定締約方無需將該《公約》應用于與保護其國家安全利益相關的人工智能系統(tǒng)生命周期內(nèi)的活動。在不影響特定條款的情況下，《公約》不適用于尚未投入使用的人工智能系統(tǒng)的研發(fā)，并且與國防有關的事項也不屬于《公約》的規(guī)范范圍。

（二）一般義務

一是保護人權。締約方應采取或維持措施，確保人工智能系統(tǒng)生命周期內(nèi)的活動符合適用國際法和其國內(nèi)法規(guī)定的保護人權義務，包括尊重個人的生命權、自由權、平等權、尊嚴權等基本權利，以及確保人工智能系統(tǒng)的應用不會導致歧視、侵犯隱私、限制言論自由等問題。

二是尊重法治。締約方應采取或維持措施，確保人工智能系統(tǒng)不被用于破壞民主機構和進程的完整性、獨立性和有效性，包括權力分立原則、尊重司法獨立和保障訴諸司法的權利等。

（三）相關原則

一是個人自主權原則。各締約方應采取或維持措施，在人工智能系統(tǒng)生命周期內(nèi)的活動中尊重人的尊嚴和個人自主權。人工智能系統(tǒng)的設計和應用應充分考慮到人的尊嚴和自主權，避免對人的身體、精神和社會造成傷害。

二是確保透明度原則。各締約方應采取或維持措施，確保針對人工智能系統(tǒng)生命周期內(nèi)的活動制定適合具體情況和風險的充分透明度和監(jiān)督要求，包括識別由人工智能系統(tǒng)生成的內(nèi)容，提高公眾對人工智能系統(tǒng)的信任，促進其合理應用。

三是落實問責制原則。各締約方應采取或維持措施，確保對人工智能系統(tǒng)生命周期內(nèi)的活動對人權、民主和法治造成的不利影響負責，包括明確責任主體，建立相應的問責機制，確保在出現(xiàn)問題時能夠及時追究責任。

四是保障平等和非歧視原則。各締約方應采取或維持措施，確保人工智能系統(tǒng)生命周期內(nèi)的活動尊重平等，包括性別平等以及適用國際法和國內(nèi)法規(guī)定的禁止歧視，克服不平等，實現(xiàn)公平、公正和公平的結果。

五是保護隱私原則。各締約方應采取或維持措施，確保在人工智能系統(tǒng)生命周期內(nèi)的活動中，個人的隱私權和個人數(shù)據(jù)得到保護，包括通過適用的國內(nèi)和國際法、標準和框架，并為個人根據(jù)適用的國內(nèi)國際法律義務建立有效保障措施。

六是可靠性原則。各締約方應酌情采取措施，促進人工智能系統(tǒng)的可靠性和對其輸出的信任，包括與人工智能系統(tǒng)生命周期內(nèi)的適當質(zhì)量和安全相關要求。

七是促進安全創(chuàng)新原則。為了促進創(chuàng)新同時避免對人權、民主和法治產(chǎn)生不利影響，各締約方應酌情促使在其主管的監(jiān)督下為開發(fā)、實驗和測試人工智能系統(tǒng)過程中建立可控實驗環(huán)境。

（四）補救措施

一是提供有效補救。締約方應根據(jù)其國際義務并與其國內(nèi)法律制度一致，采取或維持措施，確保對人工智能系統(tǒng)生命周期內(nèi)的活動導致的人權侵犯提供可訪問和有效的補救措施，包括建立相應的法律程序和機制，確保受影響的人能夠獲得公正的賠償和救濟。

二是信息記錄共享。締約方應確保記錄有關可能對人權產(chǎn)生重大影響的人工智能系統(tǒng)及其相關使用的相關信息，提供給有權訪問該信息的機構，并在適當和適用的情況下，向受影響的人提供或傳達該信息，提高透明度，促進公眾對人工智能系統(tǒng)的監(jiān)督。

三是保障知情權、申訴權。締約方應確保信息足以讓受影響的人對由該系統(tǒng)做出或?qū)嵸|(zhì)上由該系統(tǒng)使用所告知的決定提出質(zhì)疑，并在相關和適當?shù)那闆r下，對系統(tǒng)本身的使用提出質(zhì)疑。同時，《公約》規(guī)定，有關人員有權向主管當局提出投訴。

（五）風險評估與緩解

一是建立管理框架。締約方應考慮到相關原則，采取或維持措施，通過考慮對人權、民主和法治的實際和潛在影響，識別、評估、預防和緩解人工智能系統(tǒng)帶來的風險。

二是具體措施要求。相關措施應酌情分級和區(qū)分，并適當考慮人工智能系統(tǒng)的背景和預期用途，特別是涉及人權、民主和法治的風險；適當考慮潛在影響的嚴重性和可能性；在適當情況下，考慮相關利益攸關方的觀點，特別是其權利可能受到影響的人；在人工智能系統(tǒng)生命周期內(nèi)的活動中反復應用；包括對人權、民主和法治的風險和不利影響的監(jiān)測；包括記錄風險、實際和潛在影響以及風險管理方法；并在適當情況下，要求在首次使用人工智能系統(tǒng)之前和對其進行重大修改時對其進行測試。

三是應對不利影響方面。締約方應采取或維持措施，確保人工智能系統(tǒng)對人權、民主和法治的不利影響得到充分解決。并且，這些不利影響和解決這些影響的措施應記錄在案，并為相關風險管理措施提供信息。此外，締約方應評估是否需要暫停、禁止或采取其他適當措施，對于其認為與尊重人權、民主運作或法治不相容的某些人工智能系統(tǒng)的使用。

歐洲委員會46個成員國、歐盟和11個非成員國（美國、加拿大、日本等）參與了《公約》起草和談判。只有上述參與者有權“簽署”，而其余國家須在歐洲委員會部長委員會在與締約方磋商并獲得一致同意后，才能被邀請“加入”。

締約方會議由公約締約方的代表組成，負責定期磋商，以促進《公約》的有效應用和實施，包括識別問題、考慮公約的補充或修改、對公約的解釋和應用提出建議、促進信息交流、解決爭端以及加強與相關利益攸關方的合作。每個締約方應在成為締約方后的前兩年內(nèi)向締約方會議提供報告，此后定期提供有關為實施公約相關條款所采取活動的詳細信息。每個締約方應建立或指定一個或多個有效機制來監(jiān)督公約義務的遵守情況。這些機制應獨立和公正地行使職責，并擁有必要的權力、專業(yè)知識和資源，以有效地履行監(jiān)督公約義務遵守情況的任務。

在解釋或應用《公約》出現(xiàn)爭議時，締約方應首先尋求通過談判或其他和平方式解決爭端，包括通過締約方會議進行協(xié)商。締約方可以通過多種途徑解決爭議，如友好協(xié)商、調(diào)解、仲裁等，以確保公約的解釋和應用符合各方的利益和公約的宗旨。

在有必要進行條款變更時，《公約》修正案可由締約方、歐洲委員會部長委員會或締約方會議提出。任何提案應由歐洲委員會秘書長傳達給締約方。締約方或部長委員會提出的修正案應傳達給締約方會議，締約方會議應向部長委員會提交對該修正案的意見。部長委員會應考慮提案和締約方會議的意見，并可批準修正案。批準的修正案文本應轉發(fā)給締約方接受，自所有締約方通知秘書長接受之日起第三十天生效。

《公約》對歐洲委員會成員國、參與制定的非成員國和歐盟開放簽署，簽署后需經(jīng)批準、接受或核準，文書應交存歐洲委員會秘書長。公約應在五個簽署方（其中至少包括三個歐洲委員會成員國）表示同意受公約約束之日起三個月后生效。對于隨后表示同意受《公約》約束的簽署方，《公約》應在其交存批準、接受或核準文書之日起三個月后生效。

在《公約》生效后，歐洲委員會部長委員會可在咨詢締約方并獲得一致同意后，邀請未參與《公約》制定的非成員國加入《公約》，但需經(jīng)歐洲委員會章程規(guī)定的多數(shù)投票和締約方代表在部長委員會的一致投票決定。

《歐洲委員會人工智能框架公約》為規(guī)范人工智能系統(tǒng)的活動提供了全面的法律框架，強調(diào)了人權、民主和法治的重要性，并通過一系列措施確保其有效實施和監(jiān)督。該《公約》的制定是應對人工智能挑戰(zhàn)的重要舉措，有助于引導人工智能技術的健康發(fā)展，保護人類的基本權利和自由，促進社會的可持續(xù)發(fā)展。

關注“廣東技術性貿(mào)易措施”，獲取更多服務。