耗资十亿日元开发，日本儿童虐待检测 AI 系统项目宣告失败

根据IT之家3月4日的报道，近几年，随着人工智能（AI）技术的迅速演变，日本的多个企业及部分政府机构开始积极研发相关技术，以期通过创新手段提高工作效率，解决人手不足的问题。然而，该国旨在利用人工智能保护儿童免受虐待的项目因技术缺陷未能成功实施。

《读卖新闻》指出，日本儿童与家庭机构（Children & Families Agency）曾投入约10亿日元（约合4850.6万元人民币）开发一套AI系统，旨在监测儿童虐待案例。这一系统不打算完全替代人类专家，而是为了辅助负责临时监护儿童的专业人士，评估儿童是否适合回归母亲身边。系统通过分析5000起经确认的虐待案例进行了训练，并依据91个数据点（如儿童的伤痕、父母的态度等）对新案例进行评分，以评估虐待风险。

然而，该系统在实际测试中的表现并不理想。在对100起确定存在虐待风险的案例进行分析时，系统仅成功识别出38起，其余62起却被评估为“极低风险”。例如，有一名儿童声称母亲多次将其头部撞击地面，导致其严重受伤，但系统却仅给出2到3分（满分100分）的评分。专家指出，该系统过于依赖物理证据，未能有效考虑口头证词的重要性， 而且5000个案例的数据量明显不足以支持系统的全面训练。此外，该机构还承认在数据收集方面存在问题，无法准确记录儿童体重下降或伤痕等关键信息。

鉴于这些问题，儿童与家庭机构最终决定终止该项目。

目前，日本面临着人口老龄化和劳动力短缺的双重挑战，儿童保护机构也在受到受害者权益倡导者的批评，认为在处理儿童虐待问题时过于偏袒父母，导致儿童依旧处于危险中。随着大型语言模型（LLM）等生成式AI技术的普及，众多企业开始在其软件系统中整合“AI”功能，但儿童与家庭机构的案例表明，高质量和高容量数据的缺乏依然是机器学习和人工智能应用的普遍瓶颈。

广告声明：文中包含的外部链接（如超链接、二维码、口令等）旨在传递更多信息，以节省您筛选的时间，结果仅供参考。