こども家庭庁が導入を検討している、児童虐待のリスクを人工知能（AI）が判定し、児童相談所による一時保護に活用するシステムについて、三原じゅん子こども政策担当相は3月4日、閣議後会見で「現時点での判定精度は十分ではなく、さらなる改良が必要との検証結果を得た。現時点での提供は延期する」と述べ、2025年度の導入を見送る方針を明らかにした。今後、システムの改良を進めるという。

　こども家庭庁は、AI活用による児童相談所の業務効率化を積極的に進めていく方針。児童虐待が疑われるケースで児童福祉法に基づき児童相談所が保護者から子どもを一時的に引き離す一時保護の措置にもAIの判断を活用するシステム導入を目指している。22年度から開発に着手し、23年度に試作タイプが完成。24年度は協力自治体での試行、検証を進めてきた。

　システムは傷の有無や部位、保護者の態度など約100項目の情報を入力し、虐待の可能性を点数化する。AIには約5000件の虐待記録を学習させた。

　だが、全国10カ所の自治体の児童相談所で過去の事例100件を同システムで判定させた結果、約6割で疑義が生じたという。AIの判定に対し、各児童相談所の幹部職員の所感として、「高い」13件▽「低い」41件▽「スコアの幅が広くて判断に活用できない」8件――という評価。「妥当」は37件にとどまった（「不明」1件）。

　発生した事象や環境が該当する入力項目がない場合や、入力項目で有無だけを記入するため程度や範囲が反映できないといった課題があったという。また、「母親に半殺し以上のことをされた」という児童の訴えや、床に頭部をたたきつけられるといった暴行があったが、あざが残らなかった事例など、児童福祉司が「直ちに一時保護すべき」と判断した事例がAIでは著しく低い判定結果となり、重大な見落としが出る結果となった。

　学識経験者や児童相談所職員による検討会の検証なども踏まえて、予算案作成段階で25年度の導入は見送ったという。

　三原担当相は4日の記者会見で「既存の項目に該当するか否かだけではリスクを算出する情報として十分でないが、これ以上の項目追加は、緊急を要する一時保護判断の場面では現実的でない。子どもの命に直結するとともに、全国に提供するツールであるため、その判定精度は非常に重要だが、現在は十分ではなく、AI技術のさらなる進展を踏まえた改良が必要で、現時点での導入は慎重に判断すべきとの検証結果を得た」と説明。その上で「開発を断念したものではない。今回の開発に当たって得たシステムとデータを今後も保有し、システム改良事業を検討したい」と強調した。

　同庁は「判断ツールは延期したが、AI利活用はしっかり考えていく」としている。聞き取り調査を文字にしたり、その要約を作成したりする業務ではAI技術を十分に活用するなど児童相談所の業務効率化を進め、職員が子どもと向き合う時間を増やしたいという意向があり、こうしたAIツール開発は進めていく方針を示している。