《自然机器智能》：迷你实验室里的人工智能，或者对精确度进行测试

新的微型实验室正在确保人工智能（AI）不会出错。它们提供了一个受控的测试环境，在将算法和人工智能模型投入实际工作之前，可以对其进行检查。其目的是让人工智能可靠地工作。

　　

任何开发人工智能解决方案的人有时都会踏上一段未知之旅。至少在一开始，研究人员和设计师并不总是知道他们的算法和人工智能模型是否会像预期的那样工作，或者人工智能最终是否会犯错误。有时候，理论上运行良好的人工智能应用程序在现实生活中表现不佳。然而，为了获得用户的信任，人工智能必须可靠而正确地工作。这一点既适用于研究中的人工智能工具，也适用于流行的聊天机器人。

任何新的人工智能工具在部署到现实世界之前都必须经过彻底的测试。然而，在现实世界中进行测试可能是昂贵的，甚至是有风险的。出于这个原因，研究人员经常在计算机模拟现实中测试他们的算法。然而，由于模拟是对现实的近似，以这种方式测试人工智能解决方案可能会导致研究人员高估人工智能的性能。ETH数学家Juan Gamella在《自然机器智能》杂志上撰文，提出了一种新方法，研究人员可以用它来检查他们的算法和人工智能模型的可靠性和正确性。人工智能模型基于一定的假设，经过训练可以从数据中学习，并智能地执行给定的任务。算法包括人工智能模型在处理任务时遵循的数学规则。

测试人工智能，而不是高估

Juan Gamella建造了特殊的微型实验室（“迷你实验室”），可以用作新的人工智能算法的试验台。“迷你实验室提供了一个灵活的测试环境，可以提供真实的测量数据。它们有点像算法的游乐场，研究人员可以在受控和安全的环境中测试他们的人工智能，而不仅仅是模拟数据，”Gamella说。迷你实验室是建立在对物理学的充分理解的基础上的，这样研究人员就可以利用这些知识来检查他们的算法是否为各种问题找到了正确的解决方案。如果人工智能未能通过测试，研究人员可以在开发过程的早期对潜在的数学假设和算法进行有针对性的改进。

Gamella的第一个迷你实验室是基于两个物理系统，它们展示了许多人工智能工具在现实世界条件下必须处理的基本属性。如何使用迷你实验室取决于正在检查的问题和算法打算做什么。例如，他的第一个迷你实验室包含一个动态系统，比如风，它不断变化，并对外部影响做出反应。它可以用来测试人工智能工具的控制问题。他的第二个迷你实验室遵循众所周知的光的物理定律，可以用来测试旨在从数据中自动学习这些定律的人工智能，从而帮助科学家做出新的发现。

迷你实验室是一种有形的设备，大小和台式电脑差不多，可以通过遥控器进行操作。它们让人想起16世纪以来研究人员在科学社会中进行的历史演示实验，以展示，讨论和改进他们的理论和发现。Gamella将小型实验室在人工智能算法设计中的作用与飞机制造中的风洞进行了比较：当一架新飞机正在开发时，大部分设计工作最初都是使用计算机模拟进行的，因为它更高效，更具成本效益。一旦工程师们对他们的设计达成一致，他们就会建造微型模型，并在风洞中进行测试。只有这样，他们才会建造一架全尺寸的飞机，并在实际飞行中进行测试。

模拟与现实之间的中间步骤

“就像飞机的风洞一样，迷你实验室可以作为一个完整的检查，以确保我们从模拟到现实的早期工作一切正常，”Gamella说。他认为，在受控环境中测试人工智能算法是确保人工智能在复杂的现实场景中工作的关键中间步骤。迷你实验室为某些类型的人工智能提供了这种服务，特别是那些直接与物理世界互动的人工智能。

迷你实验室通过提供一个测试平台，帮助研究人员研究从模拟到现实的过渡问题，他们可以根据需要进行尽可能多的实验。这个过渡问题也与机器人和人工智能的交叉相关，人工智能算法通常被训练先在模拟环境中解决任务，然后才在现实世界中解决。这增加了可靠性。

他的迷你实验室的应用并不局限于工程领域。他与柏林慈善大学医院的一位同事一起，试图设计一个迷你实验室，以测试细胞生物学和合成生物学中的人工智能算法。然而，成本太高了。相比之下，他的第二个小型实验室，一个光隧道，已经被用作工业生产的测试环境——用于光学问题。迷你实验室还帮助测试了各种新方法，以了解大型语言模型（llm）如何在现实世界中做出更准确的预测。

因果AI——正确AI的灵丹妙药

在《自然机器智能》（Nature Machine Intelligence）杂志上，Gamella采用了灵丹妙药的方法来证明他的迷你实验室的适用性，并最终证明它们甚至对因果人工智能的问题也很有用。因果关系研究和因果人工智能是统计学和理论计算机科学的一个关键领域，是人工智能模型的基础：为了让人工智能模型可靠、正确地运行，它们应该理解因果关系。

然而，人工智能模型往往不能反映世界的因果关系，而是根据统计相关性进行预测。从科学上讲，因果关系是描述因果关系的基本概念。因果人工智能是指能够识别因果关系的人工智能模型。因果人工智能的结果更加精确和透明。这就是为什么因果人工智能对医学、经济学和气候研究等领域很重要。

开发因果人工智能需要新的统计方法，因为因果关系有时会受到特殊情况和巧合的影响。此外，在复杂的上下文中，它们不容易相互分离。Gamella曾与ETH数学教授Peter bhlmann和Jonas Peters合作进行研究。两者都发展了重要的方法来识别变化条件下的因果关系，并将其与混杂影响或随机噪声区分开来。

“然而，这些方法通常很难在现实世界中进行测试，”Gamella说。“要做到这一点，我们需要从已经知道因果关系的系统中获得数据，以检查我们的算法是否可以准确地学习它们。这些数据很难找到。”因此，为了发表这篇论文，ETH的三位研究人员在Gamella建造的迷你实验室中测试了因果人工智能算法。他自己也把他的迷你实验室称为“因果室”。首先，他们测试了算法是否为每个迷你实验室学习了正确的因果模型，即风和光。他们还观察了算法如何识别哪些因素相互影响，以及它们在异常条件下或突然发生变化时的表现。Gamella的博士生导师Peter b<s:1> hlmann对此赞不绝口：“因果室是对因果关系研究的一个有价值的补充。新的算法可以以前所未有的方式进行验证。”

一种安全和有趣的学习方式

Gamella对因果室为教学提供的意想不到的好处感到高兴。他说：“由于微型实验室为算法提供了一个安全的平台，它们也是学生们的绝佳平台。”人工智能、统计学和其他工程领域的讲师可以使用它们，让学生直接将他们所学到的知识应用到实际环境中。来自世界各地的讲师已经表达了他们的兴趣，Gamella现在正在苏黎世联邦理工学院和里昂热大学进行试点研究。