Character.AI 聊天机器人将禁止青少年与其发展“恋爱”关系，此前曾遭家长起诉

近日，Character.AI发布了一系列新功能，意在增强与平台上虚拟人格的互动安全性，特别是为青少年用户设计。据报道，这家公司推出了专为青少年用户打造的AI模型，并新增了家长控制功能，以帮助管理青少年在平台上的使用时间。作为回应，该公司还加强了平台安全措施，以缓解有关AI聊天机器人对青少年心理健康造成不良影响的批评。

在这次更新中，Character.AI不仅进行了安全改进，还加大了对平台内容的监管力度。尤其对青少年用户而言，最显著的变化在于成人版和青少年版AI模型的区分。未满18岁的用户将被引导使用更加严格的AI模型，旨在防止发生浪漫或不当互动。

除了这些安全改进，Character.AI还加强了对用户输入内容的过滤，更有效地识别用户绕过这些限制的行为，包括限制通过编辑聊天机器人的回应来规避含有暗示性内容的禁令。此外，如果对话涉及自伤或自杀等敏感话题，平台会自动弹出指向美国国家自杀防治热线的链接，为青少年提供专业支持。

预计在明年初，Character.AI还将推出新的家长控制功能，使家长能够查看孩子在平台上的使用时间以及最常与哪些聊天机器人进行互动。此外，所有用户与聊天机器人对话一个小时后将会收到提醒，鼓励他们休息片刻。

另外，当平台上的聊天机器人被描述为医生或治疗师等专业人士时，平台将添加额外警告，强调这些AI角色不具备持证的专业资质，不能取代真实的医疗或心理咨询。平台还会明确提示用户：“这很有趣，但请勿依赖我做出重大决策。”

此前报道称，为用户提供个性化聊天机器人服务的平台 Character.AI最近再次被控涉嫌对青少年用户的行为造成“严重且无法弥补的伤害”。据诉状指出，多个 Character.AI 的聊天机器人与未成年人进行对话，内容涉及自残和性虐待等恶劣行为。甚至有聊天机器人建议一名15岁青少年谋杀自己的父母，以“报复”他们限制网络时间。

广告声明：文内包含的外部链接仅供参考，点击可能跳转到其他页面。