提高人工智能透明度和准确性的新工具

利用电子游戏收集人类反馈可以克服问题

　　

虽然大型语言模型(llm)在提取数据和生成相互关联的响应方面表现出了卓越的能力，但这些人工智能(AI)模型如何获得答案仍然存在真正的问题。利害攸关的是可能产生不必要的偏见或产生荒谬或不准确的“幻觉”，这两种情况都可能导致错误的数据。

这就是为什么SMU的研究人员Corey Clark和stephen Buongiorno将在即将到来的IEEE游戏会议上发表一篇论文的原因，该会议定于8月5日至8日在意大利米兰举行。他们将分享他们创建的GAME-KG框架，即“用于增强元数据和增强知识图谱的游戏”。

知识图(KG)是一种结构化的信息表示，它以一种易于人类和机器解释的方式捕获实体之间的关系。它将数据组织成节点(表示实体)和边(表示实体之间的关系)。人类创建和维护知识图谱，将他们的专业知识与自动化工具和算法相结合。

Clark和Buongiorno开发的框架修改了知识图中的显式和隐式连接，这可以提高法学硕士提供准确响应的能力。

虽然知识图增强了法学硕士的推理能力和性能，但由于从各种来源捕获、组织和集成数据的复杂性，创建知识图可能具有挑战性。GAME-KG框架使用视频游戏来收集人类反馈，以修改和验证知识图，以克服这些困难。

“GAME-KG是人类与kg互动的一种方式，既可以整合新知识，也可以纠正误解，”新大电子游戏设计研究生项目Guildhall的副主任克拉克解释说。“当我们开始看到幻觉时，这让人类更容易纠正人工智能。当你问一个问题时，人工智能会使用我们修改过的知识图谱来提供答案。然后我们就可以看到人工智能是如何得出结论的，因为知识图谱允许我们追踪所使用的信息。”

Clark和Buongiorno的研究通过两个演示探索了GAME-KG的潜力。第一种方法是使用电子游戏《Dark Shadows》。这款黑色电影风格的神秘游戏收集玩家的反馈来修改和验证从美国司法部关于人口贩运的新闻稿中收集的知识图谱。

第二个演示使用OpenAI的GPT-4来回答有关人口贩运新闻发布的问题。人工智能程序会根据从发布版本构建的原始知识图提示答案。然后，人类通过连接和添加实体之间的隐式关系来修改知识图谱。

基于他们的研究结果，研究人员认为GAME-KG框架是利用游戏来修改知识图谱以帮助法学硕士产生准确数据的重要一步。

“我们一直致力于在关键情况下使用法学硕士，比如人口贩运。了解人工智能是如何得出答案的至关重要，”新大博士后研究员布翁吉奥诺说。“我们需要问:我们如何才能让法学硕士课程更准确?我们如何检查数据并减少幻觉?我们的研究表明，人工智能是一种需要人类互动来引导和指导的工具。我们有责任创造一种方法，让法学硕士课程更有用、更可靠。”

SMU是位于充满活力的城市达拉斯的全国排名的全球研究型大学。新加坡管理大学的校友、教师和8个学位授予学院的12,000多名学生在引领专业、社区和世界变革的过程中展现了企业家精神。