研究人员使用人工智能使儿童上网更安全

　　

一名青少年发送了一些新的在线恋爱对象要求的露点照片，结果却受到了来自另一个国家的人的勒索威胁。

一个少年去见一个在网上买了珠宝的少女，但迎接她的是一个她不认识的男人。

从“性勒索”的威胁到网络诱骗，儿童和青少年面临着越来越多的网络犯罪，弗吉尼亚理工大学的三位研究人员正在努力使数字世界对他们更安全。

在美国国家科学基金会(NSF)的资助下，赵珍熙(Jin-Hee Cho)和弗吉尼亚理工大学计算机科学系的合作者黄立夫(Lifu Huang)和李相元(Sang Won Lee)希望开发一项技术辅助教育计划，以防止儿童和青少年在网上遭受性虐待。

摘要：

• 根据世界卫生组织的数据，全球每三个互联网用户中就有一个是儿童

• 引诱儿童进行性侵犯是一种日益增长的网络威胁

• 弗吉尼亚理工大学的研究人员正在努力建立和训练由人工智能(AI)驱动的聊天机器人，以帮助儿童和青少年识别和避开网络捕食者

日益增长的威胁

计算机科学副教授、该项目的首席研究员Jin-Hee Cho表示，传统上，网络安全的重点是保护网络免受破坏，保护设备免受恶意行为者窃取数据的侵害。

“但是今天，人们对所谓的社交网络安全越来越感兴趣，”赵说。“我们正在研究技术和人之间的互动方式，以及人们如何通过网络和设备进行互动。”

通常，这些互动对社会是有益的，可以传播信息，促进教育和交流，并促进合作，从而促进经济发展和创新。

但也有风险，尤其是对儿童和青少年等弱势群体。

在2021年发表在《美国医学会杂志网络公开》(JAMA Network Open)上的一项全国调查研究中，2639名年轻人被问及未成年人遭受的技术辅助性犯罪。他们报告了一系列掠夺性的网络联系。在他们中间

• 15.6%的人表示自己是网络儿童性虐待的受害者

• 11%的人是基于图像的性侵犯的受害者

• 7.2%的人收到过未经同意的色情短信

• 5.4%的人曾在网上接受过成年人的梳理

• 3.5%的人表示，他们被骗提供色情图片，然后被勒索钱财以防止资料泄露，这种犯罪被称为“性勒索”。

许多组织正在努力使在线互动更安全。2005年，美国参议院将6月定为全国互联网安全月，以提高人们对互联网危险的认识，并强调对网络安全进行教育的必要性，尤其是在年轻人中。

技术辅助教育

网络虐待儿童预防工作的重点是发现网络犯罪的肇事者。Cho说，虽然这很有帮助，但它是有限的，因为它仍然使儿童和青少年容易受到虐待者的伤害。

几年来，Cho一直致力于开发一个项目，该项目将更进一步，为儿童提供工具和培训，帮助他们保护自己免受利用互联网培养儿童和青少年进行性剥削的犯罪者的侵害。她说:“这是一项挑战，因为在教育孩子们了解施虐者及其使用的策略方面，存在很多道德问题。”

这个新项目将专注于开发聊天机器人，以模拟捕食者和儿童之间的在线互动。然后，这些模拟可以用于开发主要针对11至15岁儿童的教育计划。

• 题目:使用智能对话代理使青少年能够抵御网络诱骗

• 资助单位:美国国家科学基金会

• 资金:855127美元

• 时间:2024 - 27所示

考虑到这些挑战，这是一个高度协作的项目。

黄是计算机科学助理教授，他将研究为机器人提供动力的人工智能的各个方面。

“我对利用人工智能技术解决社会问题有着非常强烈的兴趣和信念，”黄说。

他将利用他之前在会话人工智能方面的研究，该研究使用大型语言模型使教育机器人像人类一样相互交流。

李也是计算机科学的助理教授，他将致力于收集数据来训练机器人。他说，这是一个特别棘手的问题，因为他需要找到有关捕食者如何在网上互动的数据，然后负责任地使用这些数据。

李说:“这项工作的挑战在于，我们没有真正的网络训练对话数据集来训练聊天机器人。”“我们计划用以人为本的方法来解决这个问题，并建立一个道德平台，在这个平台上，青少年和他们的父母可以合作生成这样的数据，并提高他们对网络诱骗的认识，作为数据收集过程的一部分。”

范德比尔特大学(Vanderbilt University)计算机科学副教授、青少年隐私和网络安全专家帕梅拉·维斯涅夫斯基(Pamela Wisniewski)是另一位合作者。她将获得美国国家科学基金会(National Science Foundation) 344,874美元的相关资助，与青少年和预防网络虐待和性交易方面的专家进行磋商，制定培训材料，并确保未成年人可以安全使用聊天机器人。

维斯涅夫斯基说:“我希望我们可以设计、开发和评估一种工具，通过教育青少年网络美容的风险，以及保护自己免受这些风险的应对机制，使他们受益。”“我们的目标不是限制和监视他们使用互联网。相反，我们需要为他们提供安全浏览互联网所需的工具。”

---

---