识别算法决策主体对有意义争议性的需求

《Proceedings of the ACM on Human-Computer Interaction》：Identifying Algorithmic Decision Subjects' Needs for Meaningful Contestability

可争议性作为算法决策的伦理基础，本研究以非法民宿检测为案例，通过21次半结构访谈发现公众需求三层次：合作构建决策意义、争议支持工具、责任归属透明化。研究证实可争议性需嵌入协作机制与动态解释框架，为AI治理提供个性化参与路径。

　　

摘要

可争议性（contestability）被提出作为设计算法决策过程的关键要素，这些过程旨在保护决策主体的尊严和自主权。然而，关于如何根据决策主体的需求和偏好来具体实施可争议性，目前知之甚少。我们通过识别决策主体在实现有意义的可争议性方面的信息和程序需求，来填补这一研究空白。为此，我们选择了非法假期房屋租赁检测这一案例作为研究对象——这是一个公共部门中的高风险决策过程。我们对有出租房屋经验且AI素养水平不同的公民进行了21次半结构化访谈。研究发现，决策主体要求采取以下措施：（1）促进意义构建的合作；（2）在争议过程中提供支持；（3）合理划分责任。我们的研究结果强调了可争议性背后的合作精神，并为未来在个人和集体行动层面进行改进、为可争议性提供个性化解释以及在AI流程中开辟争议空间提供了方向。

可用格式

您可以通过以下格式查看完整内容：

PDF