《人工智能法》下的法医学

《Forensic Science International》：Forensics under the Artificial Intelligence Act

司法取证AI系统的高风险分类与合规义务研究。基于欧盟《人工智能法案》，分析专家证人及执法机构使用AI系统时的法律地位。研究发现：专家证人自主使用的AI系统不属高风险，但雇佣或受雇于执法部门的则被列为高风险。法案修订仅需单字调整即可涵盖此类情况，违规将面临行政罚款等处罚。

　　

马切伊·马尔钦诺夫斯基-普拉日莫夫斯基

波兰卡托维兹西里西亚大学法律研究所，法医学领域

摘要

预计基于人工智能（AI）的方法将在未来几十年成为法医学的重要组成部分。2024年，欧洲议会和理事会通过了《人工智能法案》，以保护基本权利免受AI应用可能带来的负面影响。根据该法案，用于司法和执法领域的人工智能系统被归类为高风险系统，对用户和提供者都施加了严格的义务。我们的研究旨在确定法医专家是否属于高风险系统的适用范围，并识别潜在的义务和处罚措施以及相关主管机构。研究结果表明：i) 由专家证人使用的人工智能系统不会被当前法案视为高风险系统；ii) 由受雇于执法或司法部门的专家使用的人工智能系统将被视为高风险系统。然而，出于实际考虑，在专家证人决定使用AI系统的情况下，大多数司法机构可能会要求他们使用符合高风险规定的系统。此外，虽然欧盟委员会有权修改高风险系统的分类，但我们发现所需的修改仅涉及一个字母的变更。因此，法医专家使用AI系统将涉及严格的技术和监督要求，不合规可能会导致行政罚款等后果。

章节摘录

引言

本世纪以来，AI系统几乎被广泛应用于所有人类活动领域[1]。AI系统的大规模商业化极大地促进了AI研究的资金投入[2]。然而，除了机遇之外，AI也伴随着显著的风险。许多AI系统的复杂性使其决策过程难以解释（因此被称为“黑箱”[3]。

法医学中的人工智能

最早的法医学AI系统示例之一是1993年至1995年间开发的一种用于分析笔迹信号的人工神经网络[13][14]。随着AI研究的整体进展，法医学AI应用也得到了进一步发展。近期文献表明，人们对在法医学中使用AI的兴趣日益浓厚，例如：i) 根据牙齿[15]、唾液[16]、骨骼[17]或鞋印[18]来确定个体的性别或年龄；ii)

《人工智能法案》

《人工智能法案》（以下简称“法案”）的总体目标在法案的序言和第1(1)条中明确规定：“本法规的目的是……为欧盟范围内的人工智能系统（AI系统）的使用制定统一的法律框架……同时确保健康、安全和基本权利得到高水平保护，防止AI系统带来的危害，并支持创新。”

法医学作为高风险领域

法案附件III中列出了与法医学相关的高风险应用领域，即执法和司法管理。执法领域的应用范围包括由执法机构或其代表使用的AI系统，或由欧盟机构、组织、办公室或机构为支持执法机构或其代表而使用的AI系统。附件III的第6点详细说明了执法领域的应用场景，包括：

作为系统部署者的法医专家的义务

高风险AI系统的一般要求如下：i) 必须在整个系统生命周期内实施和维护风险管理机制（第9条）；ii> 必须编制技术文档，以证明系统符合法案规定的要求，并向相关机构提供评估系统合规性所需的信息（第11条）；iii)

违规处罚

一般来说，违反法案规定可能会导致法案第99条规定的行政罚款，此外还可能施加其他处罚和执行措施，但具体规则由实施法案的成员国制定[12]。同样，负责罚款的主管机构也由成员国决定（这些机构可以是国家法院或其他相关机构）。

从实际角度来看，希望获得法医意见的法院

结论

《人工智能法案》的出台是迄今为止在AI监管方面迈出的最重要一步。该法案全面应对了随着AI发展而日益严重的AI相关风险问题。值得注意的是，法案根据系统固有的风险程度对AI系统运营商施加了相应义务。考虑到AI对法医学影响的日益增大，我们认为将法医学归类为高风险领域更为合适。

声明

不适用。

作者贡献声明

马切伊·马尔钦诺夫斯基-普拉日莫夫斯基：撰写——审稿与编辑；撰写——初稿；方法论研究；概念构建。

致谢

不适用。