WPI研究员获得国家科学基金会资助，研究人类如何与人工智能互动

伍斯特理工学院(WPI)计算机科学和数据科学助理教授罗伊·斯拉格(Roee Shraga)从美国国家科学基金会获得了17.5万美元的资助，用于研究数据发现和整合的人类方面。该研究项目旨在探索人类参与数据准备过程的关键作用，以识别和解决自动化系统可能无法检测到的偏见。

　　

伍斯特理工学院(WPI)计算机科学和数据科学助理教授Roee Shraga从美国国家科学基金会获得17.5万美元，用于研究数据发现和集成的人类方面。该研究项目旨在探索人类参与数据准备过程的关键作用，以识别和解决自动化系统可能无法检测到的偏见。

Shraga说:“我们将能够创建对用户更好的未来框架。”“这将带来更好的数据、更好的数据集，并为搜索数据的人们提供更好的用户界面。”

Shraga表示，他将研究人类在快速发展的人工智能领域中作为标签者、提示者和验证者的角色，并将利用认知心理学文献和技术发现偏见，以了解人类在数据发现中的思维方式。计算机科学家、程序员和其他构建人工智能平台的人的隐性偏见会影响技术中的算法，导致未被发现或无意的歧视。

这项为期两年的研究还将着眼于像ChatGPT这样的大型语言人工智能模型的出现，如何实际上需要更多而不是更少的人类参与来确保高质量的结果。这一概念被称为“人在循环”(human-in- The -loop)，它着眼于如何将人类的视角融入机器学习和ChatGPT等大型语言人工智能模型。

该基金的一个重点是“表联合搜索”，这是科学家通过在网上寻找额外资源来扩展数据集的一种方式。例如，在医疗保健领域，研究人员可以对更多聚合或去标识的患者数据进行表联合搜索，以获得更健壮、更可靠的结果。

这些方法并不新颖，但这个过程往往缺乏后续行动，以确定额外的数据是否真的对用户有益。Shraga说，将“人在循环”互动和人工智能结合起来的更好的过程可以为研究人员提供更多可用的数据。

Shraga说，他的研究也在关注大语言模型的怪癖，比如它们倾向于产生“幻觉”或产生不正确但似乎合理的数据，如何实际上被用来为研究人员提供优势。在真实数据可能涉及隐私的应用程序中，生成真实但不真实的数据表的能力非常重要。

关于WPI

WPI是基于项目的学习的全球领导者，是一所独特的顶级STEM研究型大学，成立于1865年，其原则是学生通过将课堂上学到的理论应用于解决现实世界问题的实践来最有效地学习。WPI获得了美国国家工程院2016年伯纳德·m·戈登工程与技术教育创新奖，其开创性的基于项目的课程让本科生在整个教育过程中解决重要的科学、技术和社会问题，并在全球50多个项目中心开展工作。WPI提供70多个学士、硕士和博士学位课程，涉及科学、工程、技术、商业、社会科学、人文和艺术等18个学术部门。它的教师和学生追求突破性的研究，以应对健康和生物技术方面的持续挑战;机器人与物联网;先进材料及制造;网络、数据和安全系统;学习科学和更多。www.wpi.edu

---

---