OpenAI、谷歌、Roblox 等联手，成立新组织以保障 AI 时代儿童安全

IT之家最新消息显示，Roblox、Discord、OpenAI和谷歌日前共同成立了ROOST（即强大开放在线安全工具）非营利组织，旨在为人工智能时代构建具有可扩展性和互联互通性的安全基础设施。

ROOST旨在向公共和私人机构免费提供开源安全工具，协助它们在自身平台上增强安全防护，初期的关注点将放在儿童安全上。该组织在宣布时特别提到，将提供有关“检测、审核和报告儿童性虐待材料（CSAM）”的相关工具。合作公司将不仅资助这些工具，还将提供所需的技术支援。

ROOST相信，随着生成式人工智能的快速发展，网络环境正经历深刻变革，对“可靠且易于访问的安全基础设施”的需求变得越来越急迫。ROOST希望避免要求小型企业或组织从零开始开发安全工具，而是为它们提供现成的解决方案。

据了解，自《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》在国会审议以来，儿童在线安全问题备受关注，尽管这两项法案均未能通过众议院。一些公司如谷歌和OpenAI已经承诺将停止使用AI技术制作儿童性虐待材料。

Roblox面临着尤为紧迫的儿童安全问题。根据2020年的数据显示，美国9至12岁儿童中有三分之二使用Roblox平台，而该平台一直在解决儿童安全问题上面临挑战。在2024年，《彭博商业周刊》报道了该公司曾面临的“恋童癖问题”，这推动公司实施了更多针对儿童私信的限制和新政策。

报道称，尽管ROOST无法解决所有问题，但它将为类似Roblox的其他组织或公司提供更便捷的解决方案。

广告声明：文内包含的对外跳转链接（包括但不限于超链接、二维码、口令等形式）仅供参考，用于传递更多信息，节省查找时间。