日本儿童与家庭机构耗资10亿日元开发的AI儿童虐待检测系统宣告失败。该系统旨在辅助专家判断儿童是否适合返回父母身边，通过分析5000起案例，依据91个数据点评估虐待风险。然而，实际测试中，系统对100起已确认虐待风险的案例仅正确标记38起，表现不佳。专家指出，系统过度依赖物理证据，忽视口头证词，且数据量不足以充分训练。数据采集缺陷也是失败原因。该案例表明，缺乏高质量、高容量的数据是机器学习和AI应用的常见瓶颈。

📉数据不足：系统训练仅依赖5000起虐待案例，数据量远不足以支撑AI进行有效学习和判断，导致模型泛化能力差，无法准确识别新的虐待案例。

🗣️忽视口头证词：系统过于依赖儿童的伤痕等物理证据，而忽视了儿童的口头证词，导致一些严重的虐待案件被错误地判定为低风险。案例中，即使孩子声称被母亲多次虐待，系统仍给出极低评分。

🧩数据采集缺陷：系统在数据采集方面存在缺陷，无法准确记录儿童体重下降或伤痕等关键信息，进一步影响了系统的判断准确性。这表明数据质量对AI系统的性能至关重要。

👨‍⚕️未能有效辅助专家：该系统本应作为辅助工具，帮助专家进行决策，但由于其低准确率，反而可能误导专家，未能达到提升效率和解决人手短缺的目的。

IT之家 3 月 4 日消息，近年来，随着人工智能（AI）技术的快速发展，日本企业和部分政府部门纷纷涉足这一领域，试图通过技术手段提升效率、解决人手短缺等问题。然而，该国一项旨在保护儿童免受虐待的人工智能系统项目却因技术缺陷而宣告失败。

据《读卖新闻》报道，日本儿童与家庭机构（Children & Families Agency）曾投入约 10 亿日元（IT之家备注：当前约 4850.6 万元人民币），开发一套基于人工智能的系统，用于检测儿童虐待行为。该系统并非用于替代人类专家，而是协助负责临时监护儿童的专家，判断这些儿童是否适合返回父母身边。系统通过分析 5000 起已确认的儿童虐待案例进行训练，依据 91 个数据点（包括儿童的伤痕、父母的态度等）对新案例进行评分，判断虐待的可能性。

然而，这套系统在实际测试中表现不佳。在对 100 起已确定存在虐待风险的案例进行分析时，系统仅正确标记了 38 起，其余 62 起均被判定为“风险极低”。其中，一个孩子声称母亲多次将其头部撞击地面，将其打得“半死”，但系统却给出了 2 到 3 分的极低评分（满分 100 分）。专家指出，系统过于依赖物理证据，忽视了口头证词的重要性，同时 5000 个案例的数据量远远不足以充分训练系统。此外，该机构承认系统在数据采集方面存在缺陷，例如无法准确记录儿童体重下降或伤痕等关键信息。

基于上述问题，儿童与家庭机构最终决定放弃该项目。

日本目前正面临人口老龄化和劳动力短缺的双重挑战，儿童保护机构也面临着来自受害者权益倡导者的指责，认为日本在处理儿童虐待问题时过于迁就父母，将孩子置于危险之中。随着大型语言模型（LLM）等生成式 AI 技术的兴起，许多公司纷纷在其软件系统中添加“AI”功能，但儿童与家庭机构的案例表明，缺乏高质量、高容量的数据是机器学习和 AI 应用的常见瓶颈。