政府が約10億円を投じて開発した「虐待判定AI」、誤判定率が60%超で実用化が保留に

日本政府が約10億円を投資し開発した児童虐待判定AIの導入が保留された。

3日、読売新聞は、こども家庭庁が2021年4月から約10億円を投資して児童虐待の有無を判別するAIシステムを開発したが、誤りの確率が60%を超えたため導入が保留されたと報じた。

報道によれば、AIの実用化に先立ち、虐待事例100件について検証した結果、62件について正確度が「著しく低い」との評価が下された。

これに先立ち、日本政府は児童相談所の人手不足問題を解決するためにAIに約5,000件の虐待記録を学習させ、傷の有無や部位、保護者の態度など91項目を入力した。

専門家は、虐待事例ごとに内容が異なるため、5,000件だけでAIが正確な結論を出すのは難しいと予測した。また、入力情報には傷の有無のみで、傷の程度や範囲に関する情報がないなど具体性に欠けるとの指摘もあった。

こども家庭庁は、まず現行システムの利用を中止し、AIの開発状況を見守りながら運用再開を判断する方針である。