对印度在线婚恋平台的算法审计：匹配推荐系统中的偏见

《ACM Journal on Computing and Sustainable Societies》：An Algorithmic Audit of Online Matrimonial Platforms in India: Biases in Matchmaking Recommendation Systems

本文通过审计印度两大婚恋平台Jeevansathi和Shaadi.com的推荐算法，发现其存在强化收入、年龄和宗教偏见的倾向。通过设计公平性算法，在保持推荐准确性的同时显著减少偏见，并通过用户调查验证了用户对去偏见推荐的支持度。研究强调平台应明确伦理立场，平衡用户偏好与社会公平。

　　在线婚恋平台在印度社会中扮演着越来越重要的角色，它们通过算法推荐潜在的配偶，为用户提供了便捷的匹配服务。然而，这些平台在推荐过程中可能无意中强化了一些根深蒂固的社会偏见，比如基于收入、年龄和宗教的偏好，这些偏好往往反映了性别不平等和传统社会等级制度。本文旨在探讨这些偏见在婚恋推荐算法中的体现，并提出一些替代算法以减少这些偏见的影响，同时保持用户偏好的满足度。

在印度，传统的婚配往往被视为两个家庭的联合，涉及许多因素，如年龄、收入、宗教信仰、种姓等级等。尽管近年来社会上对基于种族、宗教、阶级、种姓和性别歧视的抗议不断增长，但印度的婚配仍然沿袭这些身份特征。通过调查和访谈，研究者发现，这些偏见在平台上得到了体现，而且平台的推荐算法可能进一步放大了这些偏见。研究还发现，尽管用户可能表达出不同的偏好，但平台的推荐结果往往倾向于符合某些传统社会规范的匹配。

为了验证这些偏见是否在平台推荐中被体现，研究者创建了八个虚拟用户档案，代表了印度城市受过高等教育的年轻人群。通过分析这些虚拟用户档案的推荐结果，研究者发现，推荐算法在某些方面强化了这些偏见，特别是在收入和宗教偏好上。例如，男性更倾向于匹配收入低于自己的女性，而女性则更倾向于匹配收入高于自己的男性。在年龄方面，女性倾向于匹配比自己年长的男性，而男性则倾向于匹配比自己年轻的女性。宗教方面，多数用户倾向于匹配与自己宗教相同的对象，这反映了印度社会中宗教身份的重要性。

尽管研究者提出了几种替代算法，如准确性最大化、准确性最大化与公平性约束结合、以及准确性最大化与公平性约束和多样性敏感度结合，这些算法在一定程度上减少了推荐中的偏见，但它们仍然需要在准确性与公平性之间做出权衡。研究还指出，平台的设计者和管理者可以通过设置公平性阈值，来控制推荐结果中偏见的程度，同时保持一定的准确性。

用户调查显示，许多平台用户对于婚恋平台中的偏见表示担忧，但也有部分用户认为这些偏见是社会的一部分，无法完全消除。研究者强调，平台应该在设计中明确其对社会规范的态度，让用户能够根据自己的偏好做出选择。此外，研究还指出，平台的推荐算法可能通过反馈机制进一步强化这些偏见，因此需要更加透明的设计和管理。

研究还提到，除了收入、年龄和宗教之外，种姓也是一个重要的因素，但由于平台上存在1500多个种姓子类，使得研究者难以全面分析种姓相关的偏见。此外，研究的样本主要集中在受过高等教育的城市居民，因此可能无法代表更广泛的人群。

总体而言，本文的研究揭示了在线婚恋平台在推荐过程中可能强化社会偏见的问题，并提出了改进算法以减少这些偏见的建议。研究者认为，平台的设计者和管理者应该在算法中引入公平性考虑，以促进性别平等和减少社会偏见的影响。同时，用户也应该有更多的选择权，以便根据自己的偏好做出决策。研究还强调了技术在社会变革中的潜在作用，认为平台可以通过透明的算法设计和用户界面调整，来促进更加多元和公平的婚恋匹配。