AI伦理与社会规范：从“能做什么”到“该如何做”——探索ChatGPT的能力

《Proceedings of the ACM on Human-Computer Interaction》：AI Ethics and Social Norms: Exploring ChatGPT's Capabilities From What to How

本研究通过混合方法（111名在线调查者，38位专家访谈）评估ChatGPT作为日常工具在医疗、计算机辅助协同工作和社会计算中的伦理与社会规范遵循情况，发现其存在偏见、信任度、安全性、毒性、社会规范及伦理数据六大伦理问题，透明度与偏见为关键障碍。

　　

摘要

在医疗保健、计算机支持的合作工作以及社会计算中使用大型语言模型（LLMs）时，需要审视相关的伦理和社会规范，以确保其能够安全地融入人类生活。我们采用混合方法进行了研究，包括对111名参与者进行的在线调查，以及对38位专家进行的访谈调查，以探讨ChatGPT作为日常工具所涉及的AI伦理和社会规范问题。本研究旨在评估ChatGPT在实际应用中是否遵循伦理和社会规范，这对于理解工业和学术研究中的行为以及实现机器伦理至关重要。研究结果提供了关于AI伦理六个重要方面的初步见解，包括偏见、可信度、安全性、毒性效应、社会规范以及数据伦理。研究发现，无监督数据收集方法中的透明度和偏见问题构成了ChatGPT在伦理方面的主要挑战。

可用格式

您可以通过以下格式查看完整内容：

PDF