限制参与度：反馈功能在界面中对大型语言模型的影响

《ACM Journal on Responsible Computing》：Constraining Participation: Affordances of Feedback Features in Interfaces to Large Language Models

大语言模型（LLMs）的公共接口通过交互式反馈机制塑造用户参与迭代开发的方式。以ChatGPT为例，研究分析其反馈功能（如点赞/点踩、开放式文本、响应重生成）如何通过设计机制（如鼓励简单性能反馈、拒绝集体讨论）限制用户参与。调查显示，用户更倾向于提交频繁、简单的性能相关反馈，而社会伦理议题因缺乏协同平台和修改功能被边缘化。研究主张通过“基础设施化”构建支持多方持续对话的反馈系统，以平衡技术优化与社会责任。

　　### 对ChatGPT反馈机制的深入分析

随着大型语言模型（LLMs）的广泛应用，它们对社会和经济的影响日益显著。从最初的封闭式研究环境到如今通过浏览器界面向公众开放，这一转变不仅改变了用户与AI的互动方式，也重新定义了用户在模型迭代中的角色。本文旨在探讨ChatGPT界面中交互式反馈功能如何塑造用户参与LLMs迭代的模式，同时指出这些机制可能带来的局限性。通过对早期用户的调查，我们发现这些反馈功能鼓励用户提交简单、频繁且以性能为导向的反馈，但抑制了集体输入和用户之间的讨论，这可能导致参与过程中的权力不平衡。本文不仅对现有反馈机制进行了批判性分析，还提出了设计改进的方向，以促进更广泛和深入的用户参与。

### 从封闭到开放：LLMs的演变

在2022年OpenAI发布ChatGPT之前，大型语言模型的部署主要依赖于应用程序编程接口（APIs）和研究人员的参与。这种模式限制了普通用户的直接介入，使得模型的训练和优化主要由专业团队完成。然而，ChatGPT的推出改变了这一局面，通过浏览器界面，任何拥有电脑、网络浏览器和互联网连接的人都可以与LLMs进行互动。这种开放性不仅提升了用户对AI的可及性，还为用户提供了主动参与模型迭代的机会。

### 用户反馈的多样性与局限性

在调查中，我们发现ChatGPT的用户反馈呈现多样化的特点。大多数用户倾向于使用简单的反馈方式，如点赞或点踩，这表明他们更倾向于快速、直接的反馈。然而，开放文本反馈的使用率相对较低，这可能与界面设计有关。用户需要额外的点击才能访问开放文本反馈功能，而这种设计可能影响了用户的参与意愿。此外，用户对反馈的有效性持不同看法，只有少数用户认为他们的反馈得到了回应或改进。

### 机制与条件：反馈功能如何影响用户参与

通过应用Davis的机制与条件框架，我们分析了ChatGPT反馈功能如何通过不同的机制和条件影响用户的参与。这些机制包括请求、需求、鼓励、抑制、拒绝和允许。界面设计通过这些机制引导用户的行为，例如，请求用户按照“有帮助、诚实和无害”的框架提交反馈，这可能限制了用户表达复杂观点的能力。同时，界面要求用户先与系统互动才能提交反馈，这实际上排除了非用户群体的参与，从而形成了对参与的某种控制。

### 用户群体的多样性与参与的不均衡

调查结果显示，ChatGPT的用户群体以年轻人为主，且男性占多数。这种性别和年龄的分布可能反映了技术采纳的普遍趋势，但也揭示了参与过程中的不均衡。此外，用户的技术背景和使用频率也显著影响了他们的反馈行为。频繁使用ChatGPT的用户更有可能提交点赞/点踩反馈，而那些具有AI背景的用户则更倾向于提供开放文本反馈。这表明，技术背景和使用频率是影响用户参与的重要因素。

### 未来的设计方向：促进更广泛的参与

为了克服现有反馈机制的局限性，我们需要重新设计反馈流程，以促进更广泛和深入的用户参与。这包括引入更具对话性的反馈渠道，如鼓励用户之间的讨论和集体反馈，以及提供更灵活的反馈方式，允许用户根据自身需求修改反馈内容。此外，还需要关注反馈的持续性和多样性，以确保不同背景的用户都能有效参与。

### 社会与技术的交织：构建参与基础设施

本文强调了构建参与基础设施的重要性。这种基础设施不仅包括技术层面的改进，还涉及社会和技术结构的调整，以确保所有受影响的群体都能有效参与。例如，STECLA过程通过与边缘化群体的对话，试图更好地理解他们的需求和担忧。这种做法可以作为未来设计反馈机制的参考，以确保技术发展与社会需求相协调。

### 伦理与社会影响：反馈机制的潜在风险

现有的反馈机制虽然为用户提供了参与的机会，但也可能带来伦理和社会影响。例如，通过标准化框架收集反馈，可能会无意中强化某些价值观，而忽视其他文化或社会背景下的观点。此外，反馈的单一性和即时性可能掩盖了更深层次的社会和伦理问题，导致技术发展与社会需求之间的脱节。

### 结论与展望

综上所述，ChatGPT的反馈功能虽然为用户参与提供了途径，但其设计和实施方式存在一定的局限性。为了促进更广泛和深入的用户参与，我们需要重新审视现有的反馈机制，并探索新的设计方法。这不仅涉及技术层面的改进，还包括社会和技术结构的调整，以确保所有受影响的群体都能有效参与。随着LLMs的广泛应用，这种参与的重要性将愈发凸显，因此，我们需要持续关注和研究反馈机制的设计与实施，以确保技术发展能够更好地服务于社会需求。