芬兰化聊天机器人：生成式AI如何扭曲集体政治记忆

《Memory, Mind & Media》：Finlandised electobots and the distortion of collective political memory

本研究聚焦生成式AI在政治传播中的记忆扭曲风险。研究团队在2024年芬兰总统选举期间开发了候选人的LLM驱动聊天机器人，通过分析757组人机对话发现，尽管聊天机器人能模拟真实政治话语，但其在涉及俄乌战争等关键议题时仍延续"芬兰化"外交辞令，未能反映芬兰加入北约后的战略转变。这项发表于《Memory, Mind & Media》的研究揭示了AI缺乏政治记忆所导致的叙事失调问题，为政治场景的AI伦理设计提供了重要警示。

　　

当聊天机器人开始谈论政治，它们会如何重塑我们对历史的认知？在人工智能技术席卷各行各业的今天，这项发表于《Memory, Mind & Media》的研究向我们揭示了一个令人警惕的现象：生成式人工智能（GenAI）可能正在悄无声息地扭曲我们的集体政治记忆。

研究背景凸显了当前人工智能技术在政治应用中的潜在风险。大型语言模型（LLM）虽然能够生成流畅的政治话语，却缺乏真正的"政治记忆"——这种记忆不仅包含历史事实，更涉及对政治话语演变脉络的深刻理解。在芬兰这个具有特殊地缘政治背景的国家，从冷战时期的"芬兰化"（Finlandisation）到2023年加入北约（NATO）的战略转变，构成了复杂而微妙的政治记忆图谱。研究人员敏锐地发现，当AI系统介入政治对话时，可能会产生与当下政治现实脱节的叙事，这种现象在快速变化的国际局势中尤为危险。

为了深入探究这一问题，由Nuppu-Maija Pelevina领衔的研究团队设计了一项创新性实验。他们在2024年芬兰总统选举期间，基于OpenAI的GPT-4应用程序接口（API）开发了代表九位总统候选人的聊天机器人。这些机器人的训练数据来源于维基百科的候选人传记以及芬兰主要媒体《赫尔辛基日报》（Helsingin Sanomat）的投票建议应用（VAA）内容。通过将芬兰语政治话语翻译成英语并进行主题分析，研究人员构建了能够模拟真实政治对话的"选举机器人"（electrobots）。

实验期间，公众通过图形用户界面（GUI）与这些聊天机器人进行了1047次对话，经过数据清洗后保留了757组有效对话记录。研究团队特别关注了涉及外交和安全政策的对话内容，通过定性分析方法探究了AI生成话语与集体政治记忆的互动关系。

研究结果揭示了几个关键发现。在对话内容方面，聊天机器人表现出强烈的外交政策导向倾向，即使当用户询问与政策无关的问题（如个人饮品偏好）时，机器人也会将话题转向国际关系议题。这种对话模式反映了芬兰政治文化中对安全议题的高度关注，但也暴露了AI系统的话题偏向性。

更值得关注的是话语时间性（temporality）的错位问题。尽管现实中的芬兰已经因俄乌战争彻底改变了其对俄政策，但聊天机器人仍然频繁使用"与俄罗斯保持建设性对话"等冷战时期的典型外交辞令。这种时间错位使得研究人员将这些AI系统称为"芬兰化机器人"（Finlandised Bots）——它们似乎被困在了过去的外交话语模式中，无法准确反映政治现实的变化。

从技术层面看，这种记忆扭曲可能源于多个环节的误差累积。训练数据的翻译过程可能导致语义细微差别的丢失；算法对语言模式的教学处理（将语言简化为数学序列而非语义理解）；以及训练数据本身的时间滞后性等因素共同作用，使得AI系统难以把握政治话语的历史演变脉络。研究人员将这一过程比喻为"传话游戏"（Chinese whispers），在数据准备、翻译和模型微调的每个环节都可能引入失真。

在理论层面，这项研究对数字时代的集体记忆研究做出了重要贡献。它验证了Hoskins提出的"多元记忆"（memory of the multitude）概念，即数字技术正在将传统的集体记忆转变为由人类和非人类主体共同参与的动态建构过程。同时，研究也支持了Mandolessi关于数据库与叙事关系的论述：聊天机器人作为数据库与叙事的结合体，既能够从海量数据中提取信息，又能够生成看似连贯的对话，但这种结合却缺乏对历史真实性的基本把握。

研究人员还观察到，聊天机器人对话呈现出"记忆组合"（mnemonic assemblages）特征——用户通过与多个AI代理的互动，自主构建对政治议题的理解。这种互动方式虽然增强了公众参与度，但也带来了历史叙事碎片化的风险。当AI系统无法提供连贯的历史背景时，政治讨论可能退化为一系列孤立的观点交换，缺乏必要的历史深度和语境理解。

从认知科学角度，这项研究揭示了AI系统存在的"框架问题"（framing problem）——聊天机器人能够匹配语义模式，却无法理解话语的政治意涵和历史背景。这种认知局限使得AI生成内容在表面流畅的背后，隐藏着深层的语义模糊性和语境失调。对于熟悉芬兰政治历史的公众而言，这种过时的外交辞令可能唤起对"芬兰化"时期的不安记忆，产生类似创伤后应激障碍（PTSD）中的部分性遗忘（partial amnesia）体验——关键技术节点在AI记忆中被抹除，使对话仿佛回到了加入北约前的状态。

研究的实践意义在于为政治场景的AI应用提供了重要警示。随着生成式聊天机器人被越来越多地用于政治传播，确保这些系统能够准确反映政治现实变得至关重要。研究人员建议，在将AI用于政治目的时，必须深入理解特定语境中的话语传统，并建立持续更新机制以适应政治话语的快速演变。

特别值得关注的是小语种社区的AI记忆风险。像芬兰语这样的非主流语言在大型语言模型训练数据中代表性不足，可能导致这些社区的集体记忆在数字时代被进一步边缘化。这种技术不对称性可能加剧全球知识生产中的权力不平等。

尽管这项研究具有开创性意义，作者也承认其存在一定局限性。AI技术的快速发展意味着研究所用的GPT-4模型在论文发表时可能已经过时，新出现的检索增强生成（RAG）等技术有望改善信息的时效性问题。同时，实验中的聊天机器人开发周期较短，缺乏充分的测试优化，更精细的培训和数据管理可能提升AI系统的历史准确性。

这项研究为我们理解人工智能与集体政治记忆的复杂关系提供了重要洞见。它表明，AI系统不仅是信息处理工具，更是活跃的记忆主体，参与着对过去的建构和对未来的想象。在技术快速演进的时代，保持对AI记忆机制的批判性审视，对于维护健康的政治话语和多元的历史认知具有深远意义。随着AI在政治领域的应用日益广泛，如何确保这些系统能够负责任地处理集体记忆，将成为技术开发者、政治学者和公众需要共同面对的重要课题。