CO2：一种基于大语言模型的本体驱动方法——面向知识图谱生成与AI合规检查的创新框架

《IEEE Access》：CO2 (Co-Compliance Officer): An LLM-based Ontology-Driven Methodology for Generating Knowledge Graphs and AI Compliance Checking

本文针对人工智能(AI)合规检查的自动化需求，提出了一种名为CO2（协同合规官）的创新方法。该方法利用大语言模型(LLM)构建专门用于解析法律文档的本体，进而生成知识图谱(KG)，并基于此进行形式化验证。研究聚焦于《欧盟人工智能法案》(EU AI Act)第三章（高风险AI系统），特别是其第六条，通过将法律文本转化为“应/必须”(shall/must)陈述，并应用风险导向的本体进行命名实体识别(NER)标注，最终在Neo4j图数据库中实现可查询的知识图谱。结果表明，LLM能够有效辅助法律文档的合规检查，为AI系统的自动化合规验证提供了可行路径，对确保AI技术的负责任部署具有重要意义。

　　

随着人工智能(AI)技术的飞速发展及其在各行业的广泛应用，如何有效监管并确保其符合伦理与法律标准已成为全球性挑战。欧盟率先推出了《欧盟人工智能法案》(EU AI Act)，旨在为AI系统建立可信赖的框架。然而，该法案内容庞杂，采用自然语言书写，这使得自动化合规检查面临巨大困难。传统方法依赖人工解读，效率低下且易出错，难以应对快速演进的AI技术和复杂的监管要求。因此，开发能够自动解析法律文本、提取关键信息并进行智能推理的工具变得至关重要。

为了应对这一挑战，研究人员开展了一项名为“CO2（协同合规官）：一种基于大语言模型(LLM)的本体驱动方法，用于生成知识图谱和进行AI合规检查”的研究。这项研究发表在 multidisciplinary rapid review open access journal《IEEE Access》上。研究团队由Venkata Sai Prathyush Turaga、Timea Pahi、Simon Tjoa、Sima Siami-Namin和Akbar Siami Namin组成。他们的核心目标是探索如何利用先进的LLM技术，将复杂的法律文档（如EU AI Act）转化为结构化的、机器可读的知识图谱(KG)，从而为实现自动化的合规验证奠定基础。

研究人员为开展此项研究，主要运用了几个关键技术方法。首先，他们采用了基于LLM（如Google Gemini）的文本转换技术，将EU AI Act第三章（特别是第六条）的法律条文转化为明确的“应/必须”(shall/must)责任陈述，以突出义务、责任和禁令。其次，他们定义了一个风险导向的本体（Ontology），该本体包含了AI系统、利益相关者、义务、风险、基本权利、合规性、治理、条件、参考、过程、行动、状态和类型等核心概念。第三，他们应用了基于此本体的定制化命名实体识别(NER)技术，对转换后的文本进行语义标注，识别出实体及其关系。最后，利用图数据库Neo4j及其查询语言Cypher，将标注后的信息构建成知识图谱，并编写形式化查询来检测潜在的合规问题（如未受监管的实体、缺失处罚的义务等）。研究以EU AI Act第三章和第六条作为案例，进行了详细的流程演示和验证。

研究结果

初步模型探索知识图谱生成

研究人员首先尝试了三种基于预训练模型的方法来生成知识图谱。方法一使用SpaCy库的“en_core_web_sm”模型提取命名实体并生成主谓宾三元组。方法二在方法一基础上，引入SpaCy的依赖解析器(Dependency Parser)来更好地识别句子结构。方法三则采用了更先进的REBEL模型进行端到端关系提取。定量分析表明，这些传统方法生成的图谱节点连接稀疏，密度低，且无法有效识别出与合规检查相关的关键关系（相关性得分为零），凸显了其在理解和捕捉法律文档复杂语义方面的局限性。

LLM驱动的知识图谱生成方法论

本研究引入的核心方法是CO2，其流程如算法1所述。关键步骤包括：

1. 1.
   文本语义转换：利用LLM将法律文档（如EU AI Act Article 6）转换为强调责任和义务的“应/必须”陈述。例如，将“An AI system shall be considered high-risk...”转换为更结构化的形式。LLM通过检测义务性模态动词（如shall, must）、识别主语和宾语、提取条件上下文等步骤完成此转换。
2. 2.
   风险导向本体定义：研究定义了一个专门用于AI合规的法律文档本体，核心概念包括AI系统(AI_System)、提供者(Provider)、高风险AI(High-Risk AI)、符合性评估(Conformity Assessment)、基本权利(Fundamental Rights)等。该本体为后续的NER标注和知识图谱构建提供了概念框架。
3. 3.
   本体驱动的NER标注：将定义的本体应用于转换后的“应/必须”文本上，进行定制化的命名实体识别和关系标注。LLM通过句子分割、主谓宾分析、本体映射（将实体映射到预定义的节点标签）和关系推断等步骤，生成带有语义标签的文本。例如，将句子“An AI system shall be considered high-risk...”标注为“An AI_System{name:'AI System'} shall be considered Status{name:'High-Risk'}...”。
4. 4.
   Cypher脚本生成与知识图谱构建：基于标注后的文本，LLM自动生成用于在Neo4j图数据库中创建知识图谱的Cypher查询脚本。这些脚本创建了代表不同概念（如AI系统、状态、条件、行动、利益相关者、义务等）的节点，以及它们之间的关系（如HAS_STATUS, IF_CONDITION_MET, HAS_OBLIGATION等）。
   
   可视化结果（图8a, 8b, 8c）清晰显示，直接基于原始文本生成的图谱（图8a）信息杂乱且连接性差。转换为“应/必须”陈述后（图8b），图谱结构有所改善。而应用风险导向本体进行标注后生成的图谱（图8c）语义最为清晰和丰富，节点间关系明确，更适用于后续分析。

LLM驱动的AI合规检查案例研究

研究通过几个案例展示了如何利用生成的知识图谱进行合规检查，并提供了相应的Cypher查询示例：

• •
  AI驱动的生物特征识别系统：检查此类系统是否被正确归类为高风险（根据 Annex III），以及是否进行了符合性评估。查询可检测未进行评估的高风险系统。
• •
  AI驱动的画像系统分类：验证执行自然人画像的AI系统是否被正确标记为高风险。查询可找出进行画像但未被归类为高风险的系统。
• •
  文件评估豁免检查：检查提供者是否在声称其系统不属于高风险因而豁免文件评估义务时，其系统确实未被 Annex III 引用。
• •
  豁免行为证据检查：验证委员会（Commission）在通过授权法案（delegated acts）修改豁免条件时，是否基于具体可靠证据。
• •
  豁免条件修改检查：确保对豁免条件的任何修改都不会降低整体保护水平。
• •
  提供指南义务检查：简单检查委员会是否有义务提供指南。

这些案例表明，基于本体和知识图谱，可以构建形式化的、可自动执行的查询，从而系统化地检测潜在的合规漏洞。

研究结论与讨论

本研究成功提出并验证了CO2这一创新的方法论框架。该框架通过结合大语言模型(LLM)的强大语义理解能力、风险导向的本体工程以及图数据库技术，实现了从非结构化的法律文本到结构化、可查询的知识图谱的自动化转换。与传统的基于规则的自然语言处理(NLP)方法相比，LLM驱动的CO2方法能更深入地理解法律语境，提取更具语义意义的实体和关系，从而生成质量更高、更适用于合规检查的知识图谱。

这项研究的重要意义在于它为自动化AI合规检查提供了一条切实可行的技术路径。通过将法律要求形式化表示为知识图谱中的节点和关系，并利用像Cypher这样的声明性查询语言，合规检查过程可以变得更加系统化、可追溯且高效。这对于应对日益复杂的AI法规（如EU AI Act）至关重要，有助于降低企业合规成本，提高监管效率，并最终促进可信赖AI的发展。

尽管本研究展示了良好的前景，作者也指出了未来的工作方向，包括探索其他本体表示语言（如OWL, RDF/S）和查询语言（如SPARQL），将方法应用于更广泛的法规文本，以及解决使用公共LLM可能带来的隐私和伦理问题（例如训练领域专用的LLM）。此外，确保生成的知识图谱本身的一致性、完整性和无歧义性也是后续需要深入研究的课题。

总之，CO2方法代表了符号主义（本体、知识图谱）与连接主义（LLM）在法律科技领域的一次有力结合，为构建智能、自动化的合规助手（Co-Compliance Officer）奠定了坚实的基础，对推动负责任AI的治理具有重要的理论和实践价值。