恐跨症其实源于人们自身的认知偏见：从跨性别视角看大型语言模型

《ACM Transactions on Computer-Human Interaction》：Transphobia Is in the Eye of the Prompter: Trans-Centered Perspectives on Large Language Models

跨性别身份在大型语言模型（LLMs）中的呈现与伦理问题研究。通过分析ChatGPT和Llama对825个Quora问题的回答，发现两者主要返回支持跨性别的内容（68%和62.3%），但仍有反跨性别回应（12.35%和17%）。研究揭示LLMs存在三种问题：使用争议性术语（如“生物医学主义”）、强化个体主义叙事忽略系统性压迫、对隐晦反跨性别提问的“中立”回应。建议通过位置知识嵌入、数据过滤和持续学习优化LLMs的伦理设计。

　　大语言模型（LLMs）正在迅速成为产品和服务中的热门趋势，尤其是在聊天机器人领域。这些模型能够处理各种话题，包括与性别认同密切相关的议题。然而，在反跨性别言论日益增多的背景下，我们对两个流行的大语言模型在回答关于跨性别身份的现实问题时的表现进行了研究。我们采用了反思性分析方法，以我们对跨性别群体的定位知识为中心。我们的研究发现，即使面对高度跨性别歧视的用户提示，这些模型仍倾向于返回支持跨性别身份的回应。尽管我们也发现了某些模型返回了高度跨性别歧视的内容，但这些反跨性别言论往往是微妙的，需要跨性别利益相关者从多样化的视角来解读。

在当前的“价值中立”方法中，跨性别歧视往往被验证为合理，因此我们建议采用一种“所有立场”方法来反思这种现象。我们还提出了关于评估和设计大语言模型的考虑因素，强调应以跨性别社区的定位专业知识为中心。这些发现表明，跨性别身份在大语言模型中得到了一定程度的正面回应，但同时也存在一些需要改进的地方。特别是在跨性别群体的多样性方面，我们需要更加细致地理解不同群体对跨性别身份的体验和观点。

本研究采用了一种混合的分析方法，结合了结构化内容分析和主题性内容分析。我们从Quora收集了问题，并使用它们作为提示来获取ChatGPT和Llama的回应。随后，我们建立了一个编码手册，用于指导分析过程。编码手册不仅帮助我们对回应进行分类，还促进了我们对这些回应背后的情感和信息的理解。我们发现，尽管大部分问题带有跨性别歧视的倾向，但模型的回应大多呈现出支持跨性别身份的立场。

在对模型回应的评估中，我们识别出了一些关键模式。例如，ChatGPT和Llama在面对跨性别歧视问题时，往往会采取反跨性别立场。这种倾向不仅体现在直接的反跨性别言论中，还体现在对跨性别身份的误解和错误信息中。此外，模型有时会使用一些具有误导性的术语和叙述，这些术语和叙述可能被用来支持跨性别歧视的观念。

在分析过程中，我们还注意到一些模棱两可的回应。这些回应可能同时包含支持和反对跨性别身份的元素，或者其内容的解读取决于提问者的立场。例如，某些回应可能被理解为中立或支持性的，但对跨性别群体而言，这些回应可能被解读为潜在的伤害。这表明，在评估和设计大语言模型时，我们需要考虑提问者的定位和立场，而不仅仅是回应本身的内容。

我们的研究还强调了定位知识的重要性。跨性别群体内部存在多样化的观点和经验，这影响了他们对模型回应的解读。因此，我们需要在评估和设计过程中融入这些多元的视角。我们建议采用更全面的方法来评估大语言模型，包括与跨性别社区成员合作，以确保模型回应符合跨性别群体的需求和期望。此外，我们还提出了关于模型设计的建议，包括在训练数据中过滤反跨性别内容、通过微调模型以优先考虑支持跨性别身份的立场，以及在模型训练后实施审查工具以减少反跨性别言论的传播。

尽管我们的研究结果表明，这两个模型在处理跨性别身份相关的问题时总体表现良好，但它们仍然存在一些需要改进的地方。特别是在面对反跨性别问题时，模型可能会采用一些被广泛认为是歧视性的语言和叙述。因此，我们需要采取更加细致和批判性的方法来评估这些模型，以确保它们能够提供准确、尊重和有益的信息。

此外，我们还讨论了定位知识在机器学习中的重要性。这些知识可以帮助我们更好地理解模型回应的潜在影响，并确保它们能够满足不同群体的需求。我们建议研究人员和工程师在评估和设计大语言模型时，应该考虑到跨性别群体的多样性和复杂性，并采取相应的措施来减少潜在的伤害。

总的来说，我们的研究揭示了大语言模型在处理跨性别身份相关问题时的优缺点。尽管它们在许多情况下能够提供支持性的回应，但在某些情况下，它们可能会传播错误信息或采用歧视性的语言。因此，我们需要采取更加全面和批判性的方法来评估和设计这些模型，以确保它们能够更好地服务于跨性别群体和更广泛的社会。