×

虐待疑いもAI「保護率39%」……三重の4歳が死亡 児相でのAI活用は? 「判断できる力」に期待、「かえって危険」断念も

2023年7月12日 10:44
虐待疑いもAI「保護率39%」……三重の4歳が死亡 児相でのAI活用は? 「判断できる力」に期待、「かえって危険」断念も

虐待疑いのある三重県の女児が一時保護されず、死亡しました。児童相談所は一時保護を判断する際、AIの「保護率39%」も参考に総合的に判断。人手が不足する中、現場の担当者からはAIに期待する声が上がります。うまく活用する方法はあるのでしょうか。

■三重県の児相、効率化へシステム導入

有働由美子キャスター
「保護率39%。これはAIが示した数字です。三重県の児童相談所が、母親から虐待されている疑いのある4歳の女児を一時保護するかどうか判断する際に、AIに尋ねて出た値が『保護率39%』でした」

「一時保護は見送られ、その後に女児は死亡。母親は逮捕されました。このAIの評価も参考にして判断したということです」

小野高弘・日本テレビ解説委員
「三重県内の児童虐待の相談件数は2022年度で2408件でした。児童相談所は職員が多忙で、人手不足という状況です。業務の効率化を図ろうと、3年前にAIを使ったシステムを導入しました」

「このシステムでは、児相が過去に対応した約1万3000件のケースがデータベースとして入力されています。ある子どもの一時保護を検討する際、年齢やケガの状況などを入力すると、『このようなケースは過去の事例では〇%の割合で保護している』と表示されます」

■三重では保護率20%で保護した例も

小野委員
「このように過去の事例を一気に参照して当てはめてくれるので、判断の参考になります。今回亡くなった女児のケースでは、去年 2 月に『頬や耳にあざがある』と児相に通報があり、職員がその情報を入力。そこで出てきた数字が『保護率39%』でした」

有働キャスター
「数字の見方はいろいろあるでしょうが、(約)4 割と見ると、十分保護してもおかしくない数字なのかなと思いますが…」

小野委員
「この数字を三重県はどう捉えたか。『高いとも低いとも言えない』としています。保護を見送った理由について、あざが虐待によるものと断定できなかった、母親が児相の支援や指導に応じる姿勢があったという点などから、総合的に考えて判断したということです」

「三重県では過去に、保護率 20%でも保護した例があったといいます」

■人手不足で…AIに頼りたい自治体も

有働キャスター
「人手不足からAIに頼りたいという動きは、他にもあるのでしょうか?」

小野委員
「あります。愛知・豊橋市は児童虐待の相談の電話がかかってきた場合、どう対応するかというアドバイスを示してくれるようなAIの導入も考えて実証実験をしました」

「すると、過去の事例をデータ入力するのに『いつ』『どんな状況で』『どんな虐待があって』という細かい情報を入れないと精度が上がりませんでした。ただそんな人も時間もなく、単純なデータ入力ではかえって危険、市単独では無理だとして、導入を諦めました」

「それでも複数の自治体の担当者からは『職員は3~4年で人事異動がある。過去の実例を基に判断できる力が欲しい』、『電話相談で的確なアドバイスや解決策を示すサポートをAIに補ってもらいたい』という期待の声も上がっています」

■虐待相談で「AI活用」可能性は?

有働キャスター
「児童相談所でのAI導入は、どうしたらうまく活用できるでしょうか?」

落合陽一・筑波大学准教授(「news zero」パートナー)
「保護率はAIが出した確率ではなく、統計上の率です。電話相談などを生成 AI が入っているLINEチャットでやるなど、対話型のものを使っていくのがポイントだと思います。電話相談などで、効果的にAIを使って子どもの虐待を見抜く方法は今後考えられます」

有働キャスター
「とにもかくにも一番大事なことは、1人でも多くの子どもの命を救うということです。必死で頑張っている職員の皆さんのためにも、人材不足をはじめ根本的な問題も少しでも早く解決してほしいと思います」

(7月11日『news zero』より)