欧洲委员会人工智能框架公约解析：背景、监管路径与义务范围

《European Journal of Risk Regulation》：Council of Europe Framework Convention on Artificial Intelligence: Context, Regulatory Approach and Scope of Obligations

本文针对人工智能(AI)系统带来的风险，深入剖析了欧洲委员会(CoE)新近通过的《人工智能与人权、民主和法治框架公约》(CoE AI Convention)。研究通过梳理公约的起草历程、对比欧盟《人工智能法案》(AI Act)，揭示了该公约作为国际条约在监管范围（公共机构与私营主体）、基于风险的方法（未明确风险等级）以及具体义务（如透明度、问责制、非歧视等原则）方面的核心特征与妥协。文章指出，尽管公约的保护水平在谈判中有所降低，但其确立的一般性原则可为未来人权标准在AI领域的具体化提供重要解释指引。

　　

随着人工智能(AI)系统日益渗透到社会生活的方方面面，其在带来效率提升和便利的同时，也对人权、民主和法治构成了前所未有的风险。从执法、移民到社会福利分配，AI的应用场景不断扩展，如何确保这些强大的技术工具不被滥用，并与人类社会的基本价值观相协调，成为全球监管者面临的紧迫挑战。在此背景下，欧盟率先通过了全面规制AI的《人工智能法案》(AI Act)，而拥有47个成员国的欧洲委员会(CoE)——

一个以捍卫人权、民主和法治为核心使命的国际组织——

也于近期推出了《人工智能与人权、民主和法治框架公约》（以下简称CoE AI公约）。这项全新的国际条约意图为何？它与欧盟的AI法案有何不同？又能为全球AI治理提供怎样的蓝图？Lund大学的Vladislava Stoyanova教授的这篇发表于《European Journal of Risk Regulation》的论文，为我们提供了对CoE AI公约的首次深入解读。

为了回答上述问题，研究人员主要采用了条约解释的法律分析方法。该方法严格遵循《维也纳条约法公约》(Vienna Convention on the Law of Treaties)第31条和第32条规定的解释规则，强调结合条约的文本、上下文、目的和宗旨进行解释。研究的关键在于对一系列重要文件的分析，包括公约的《解释性报告》(Explanatory Report)、起草过程中的多个草案（如“零草案”Zero Draft、“修订版零草案”Revised Zero Draft、“合并工作草案”Consolidated Working Draft）、以及公约诞生前的《可行性研究》(Feasibility Study)。这些文件作为条约的“准备工作”和“缔结情况”，是理解条约条款真实含义和演变过程的重要补充手段。此外，研究还采用了对比分析法，将CoE AI公约与欧盟AI Act在监管范围、风险分级方法等方面进行关键比较，以凸显公约的独特之处。最后，研究将公约条款置于更广泛的国际法背景中，特别是国际人权法和关于国家责任的国际法规则，进行系统性整合分析。

公约的起草背景与过程：多方博弈下的妥协产物

CoE AI公约的诞生并非一蹴而就。其源头可追溯至2019年，CoE部长委员会决定探讨制定AI法律框架的可行性。随后成立的AI特设委员会(CAHAI)在2020年底完成的《可行性研究》中，提出了制定一项“框架公约”(Framework Convention)的选项。与规定具体义务的“公约”不同，“框架公约”更具原则性，为国家履行义务留下了更大的自由裁量空间，其优势在于灵活性高，更能吸引国家加入，并避免过早的严格规制阻碍创新。这一选项最终被采纳。

负责谈判的AI委员会(CAI)的工作过程却并非完全透明。尽管举行了多次全会，但谈判的关键细节，特别是各国（包括非CoE成员国如美国）的具体立场，大多在保密的起草小组会议中进行，且未向公众公开。研究人员只能通过CAI决定公开的四份草案来追踪条约内容的演变。这种保密性以及非CoE成员国的参与，被批评为稀释了公约的保障力度并排除了公民社会的充分参与。分析显示，从最初的“零草案”到最终文本，公约的个人适用范围和具体权利条款发生了显著变化，保护水平在谈判过程中有所降低。

监管范围：聚焦国家义务，间接规制私营主体

公约监管范围的核心特征在于，它作为一项国际条约，其义务的直接承担者是缔约国，而非私营主体。这与直接规制私营运营者和提供者的欧盟AI Act形成鲜明对比。具体而言，公约的适用范围体现在三个层面：

首先，公约明确适用于公共当局的活动。这符合国际法的一般规则，即国家机构的行为视为国家行为。

其次，公约适用于“代表”公共当局行事的私营主体的活动。这涵盖了通过合同、公共服务外包等形式将职权委托给私营部门的情况，此类私营实体的行为可归因于国家。

最后，对于行为不可归因于国家的普通私营主体，公约并未直接规制，而是为缔约国设定了“处理其活动带来的风险和影响”的义务。缔约国有两种履行选择：一是将公约的原则和义务适用于这些私营活动（即通过国内立法进行规制）；二是采取“其他适当措施”。这实质上是对缔约国施加了“积极义务”，要求其通过国内措施间接规制私营领域，类似于《欧洲人权公约》(ECHR)的模式。然而，这种间接规制的效果在很大程度上取决于各国国内法的具体设计和执行力度。

基于风险的方法：抽象性与灵活性并存

与欧盟AI Act类似，CoE AI公约也采用了基于风险的方法，要求缔约国采取的措施应根据AI系统在整个生命周期中对人权、民主和法治造成不利影响的严重性和可能性进行“分级和区分”。然而，两者在具体路径上存在根本差异。

欧盟AI Act明确划分了“不可接受风险”、“高风险”和“有限风险”等等级，并为高风险AI系统设定了严格的前置合规要求。相比之下，CoE AI公约完全没有对风险进行明确分类。早期的草案中曾包含“显著风险”和“不可接受风险”等级别，但最终都被删除。

这种省略避免了欧盟AI Act中高风险分类所面临的模糊性。例如，AI Act第6(3)条规定，列于附件III的系统（如在移民、执法等领域使用的系统）若不构成对健康、安全或基本权利的“显著损害风险”，则不视为高风险系统。这引发了关于因果关系、风险显著性衡量以及“实质性影响决策”含义的复杂问题。CoE AI公约通过保持更高层次的抽象性，绕开了这些具体分类难题，将如何根据风险程度进行分级监管的具体裁量权留给了各缔约国。

缔约国义务：原则性指引与人权法具体化的桥梁

公约施加给缔约国的义务是其核心内容。首先，公约的出发点并非创设新的人权义务。公约第4条仅原则性地要求缔约国采取措施确保AI活动“符合”其现存的国际国内人权法义务。这并未解决当前人权法在应对AI带来的新挑战时存在的模糊性。

其次，尽管公约的《可行性研究》旨在通过条约填补“具体化人权义务”和“明确AI特定原则”这两个法律空白，但分析表明，公约在具体化人权义务方面贡献有限。条约文本和《解释性报告》中的某些表述（如将义务描述为“结果义务”而非“方法义务”）甚至增加了混淆。

然而，公约最重要的贡献在于其第三章明确列举了与AI系统生命周期活动相关的多项原则。这些原则虽被有意设计得宽泛，但可为未来人权标准在AI领域的发展提供解释性指引。它们包括：

• •
  人的尊严与个人自主性：要求尊重个人不被降级为“数据点”并保持对AI技术使用的控制，但早期草案中“选择不与AI系统交互”的具体权利在最终文本中被淡化。
• •
  透明度与监督：要求根据具体情境和风险制定适当的透明度和监督要求，包括AI生成内容的识别。《解释性报告》将“可解释性”纳入透明度范畴，并指出在医疗、司法等敏感领域需提供更易理解的解释。
• •
  问责与责任：要求确保对AI活动产生的不利影响承担责任，并与国内救济机制相联系。但条款中加入了“可能显著影响人权”、“信息足够”等限定条件，并弱化了告知义务（“寻求确保”而非“确保”），可能影响追责实效。
• •
  非歧视：要求采取措施确保不歧视，并鼓励采取特殊措施克服结构性不平等，以实现公平、公正和公平的结果。
• •
  数据保护：要求通过适用国际国内法（如CoE的《108+公约》和欧盟《通用数据保护条例》(GDPR)）来保护隐私和个人数据，承认数据保护法在AI治理中的关键作用，同时也意识到其局限性。
• •
  可靠性：要求采取适当措施（如标准、技术规范）促进AI系统的质量和安全，但强调需结合透明度和问责，避免过度依赖可能缺乏民主合法性的私营标准制定。
• •
  风险管理：要求在整个AI生命周期中迭代式地识别、评估、预防和减轻风险。条款术语存在不一致（如“风险”、“不利影响”、“实际和潜在影响”混用），概念清晰度不足，且仅要求评估而非实施暂停或禁止措施。

结论与意义

总体而言，CoE AI框架公约体现了高度的灵活性和抽象性，为缔约国留下了广泛的裁量空间。这是其作为“框架公约”的设计使然，旨在吸引更广泛的参与，特别是非欧洲国家。其不明确划分风险等级的路径，与欧盟AI Act形成对比，但后者分类规则的模糊性意味着公约的抽象性未必导致保护水平更低。

公约的监管效力应置于其与人权法的互动中评估。尽管公约本身未清晰概念化AI系统与人权损害间的联系，但其确立的原则——人的尊严、个人自主、透明度、问责、不歧视、数据保护、可靠性和风险管理——为尚在演变中的人权法应对AI挑战提供了宝贵的解释指南。尽管谈判过程降低了公约的保护水平和具体性，但这些原则性规定仍有望在未来的法律实践中，为人权标准在人工智能时代的具体化和深化提供重要的规范基础和论证依据。