日本政府斥资近5000万人民币研发的AI虐童识别工具因误判率高达60%而被暂时搁置。该工具旨在辅助“儿童咨询所”工作人员判断儿童是否遭受虐待，通过分析91项信息，以百分制评估受虐待可能性。然而，由于学习样本仅5000个案例，测试中出现大量误判，例如孩子已明确描述受虐待情况，AI评分却极低。工作人员指出，AI忽视了关键信息如“儿童体重减轻”和伤害程度，仅记录“有无”现象。日本儿童家庭厅认为该工具尚不成熟，暂停开发。

⚖️日本政府投入巨资研发AI虐童识别工具，旨在帮助各地“儿童咨询所”的工作人员判断是否需要临时保护疑似遭受虐待的儿童。

👨‍💻该AI工具通过分析91项信息（如孩子是否受伤、受伤部位、监护人态度等），以百分制打分形式显示儿童受虐待的可能性，得分越高表示可能性越大。

📉测试结果显示该AI工具误判率高达60%，原因在于学习样本仅为5000个案例，样本数量明显不足，且AI工具被指出忽视了“儿童体重减轻”等重要信息，且91个项目仅记录“有无”某现象，而不涉及伤害程度或范围。

快科技3月4日消息，随着AI的快速发展，日本政府也投入了约10亿日元（约合4879万人民币）的研发经费，试图开发一款用于判断儿童是否遭受虐待的AI工具。

然而这一项目在测试阶段表现不佳，误判率高达60%，这一AI工具也被暂时搁置。

该AI工具由日本儿童家庭厅开发，旨在帮助各地“儿童咨询所”的工作人员判断是否需要临时保护疑似遭受虐待的儿童。

按照设计，工作人员需输入91项信息，如孩子是否受伤、受伤部位、监护人态度等，AI会以百分制打分形式显示儿童受虐待的可能性，得分越高表示可能性越大。

不过该AI工具的学习样本仅为5000个案例，测试结果也显示样本数量明显不足，在输入的100个案例中，有62个案例的打分明显偏低。

例如在一个案例中，孩子已经明确表示“被母亲打得半死”“被扯住衣服后用我的头撞床”，但AI工具的打分仅为2到3分。

工作人员分析，这可能是因为输入信息中包含了“孩子身上没有淤青”，导致AI误判，此外AI工具还被指出忽视了“儿童体重减轻”等重要信息，且91个项目仅记录“有无”某现象，而不涉及伤害程度或范围。

鉴于高误判率和诸多不足，日本儿童家庭厅已暂停该项目的开发工作，并表示“将其提供给儿童咨询所为时尚早”。