严守科研诚信防线：应对大语言模型在药理学综述论文中的恶意使用

《Naunyn-Schmiedeberg's Archives of Pharmacology》：Authors must follow the editorial guidelines on the use of large language models in review papers

为解决论文工厂利用大语言模型（LLMs）恶意生成论文破坏科研诚信的问题，《Naunyn-Schmiedeberg's Archives of Pharmacology》的编辑团队开展了相关研究。结果是实施新政策要求综述论文声明情况，加大审查力度。这有助于维护科研诚信，保障学术质量。

　　在科学研究的神圣殿堂中，科研诚信本是基石，可如今却遭遇着前所未有的挑战。论文工厂（又称犯罪科学出版团伙）为谋取利益，大肆售卖虚假论文，帮助客户在学术期刊发表，以此 “推进” 客户学术生涯。这种行为严重破坏了作者、编辑、审稿人、出版商、读者和公众之间的信任，而信任恰是科学发展的根基。没有了信任，科学研究将陷入混乱，后果不堪设想。

随着人工智能（AI）时代的到来，新的问题又接踵而至。强大的大语言模型（LLMs）和其他 AI 工具被论文工厂等恶意行为者利用，用于生成虚假论文。然而，检测 AI 生成的内容困难重重。现有的检测工具不仅会出现误判，产生假阳性结果，还对非英语母语的作者存在偏见。

在这样的背景下，《Naunyn-Schmiedeberg's Archives of Pharmacology》杂志的编辑团队决定挺身而出，开展了一系列研究，致力于维护科研诚信。该杂志的编辑团队来自多个知名研究机构，包括德国汉诺威医学院药理学研究所、瑞典隆德大学临床科学系、中国青岛大学药理学系、德国萨尔兰大学分子药理学系等。

编辑团队通过多方面的研究，得出了一系列重要结论并采取了相应措施。首先，杂志实施了数据存证政策，要求发表的论文必须声明所有数据均为内部生成，且未使用论文工厂服务。其次，开展了论文发表后的图像审查工作，这一举措已促使多篇存在图像操纵问题的论文被撤回，并且后续还会继续揪出此类问题论文。针对 LLMs 生成论文难以检测的情况，自 2023 年下半年起，编辑团队发现投稿的综述论文数量大幅增加，部分论文存在参考文献不足、语言泛泛、科学错误明显等问题，这类论文直接被拒。而对于通过同行评审的论文，编辑团队在发表后分析时怀疑部分论文由 AI 生成，但难以确定。于是，编辑团队在 2023 年末实施新政策，要求所有在该杂志发表的综述论文必须声明相关情况，以便后续进行审查和处理。

这些措施意义重大，有效遏制了论文工厂和恶意使用 LLMs 的行为，维护了杂志的学术声誉，保障了科研的诚信环境，让科学研究能够在健康、公正的轨道上继续前行。

在研究过程中，编辑团队主要采用了以下关键技术方法：一是建立严格的数据审核机制，确保论文数据来源可靠；二是运用图像审查技术，对已发表论文的图像进行全面审查；三是依靠同行评审体系，让专业的审稿人对投稿论文进行评估。此外，编辑团队还建立了与读者的互动渠道，鼓励读者举报可疑论文。

下面详细介绍研究结果：

1. 数据存证与声明政策：通过强制要求作者确认所有数据在内部生成且未使用论文工厂，从源头上规范了论文的数据来源，保证研究数据的真实性和可靠性。
2. 图像审查成果：实施论文发表后的图像审查，发现并撤回了多篇存在图像操纵问题的论文。这一审查机制如同给论文加上了一道 “紧箍咒”，有效阻止了通过图像造假来骗取学术成果的行为。
3. 综述论文投稿分析：在对大量投稿的综述论文分析中发现，部分论文存在各种问题。对于那些问题明显的论文直接拒绝，而对于通过同行评审但后续怀疑由 AI 生成的论文，编辑团队保持高度警惕，并通过新政策加强管理。
4. 新政策实施：要求综述论文必须声明相关情况，这一政策为后续可能的调查、发布关注声明或撤回论文提供了依据，加强了对论文的管理和监督。

研究结论和讨论部分再次强调了维护科研诚信的重要性。论文工厂和恶意使用 LLMs 的行为严重破坏了科研的信任基础，而杂志所采取的一系列措施是维护科研诚信的必要手段。通过严格的审查机制和政策约束，能够及时发现和处理问题论文，保障学术研究的质量和可信度。同时，也呼吁科研人员自觉遵守科研诚信原则，共同营造良好的学术环境。这一系列研究和措施对于整个科研领域都具有重要的借鉴意义，为其他学术期刊应对类似问题提供了范例，推动科研行业朝着更加健康、有序的方向发展。