10億円かけた逆転判決のAI、子供家庭庁が導入見送りというニュースです。

虐待が疑われる子どもの一時保護を巡り、人工知能（ＡＩ）にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が２０２１年度から約１０億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが６割に上った。ＡＩは虐待の判断にはなじまず、実用化は困難と結論付けた。

同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したＡＩに約５０００件の虐待記録を学習させた。傷の有無や部位、保護者の態度など９１項目に情報を入力すると、虐待の可能性が０～１００の点数で表示される。

　試作モデルがほぼ完成し、今年度に計１０自治体の児相に協力してもらい、過去の虐待事例１００件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、１００件中６２件で「著しく低い」などの疑義が生じたという。

　ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２～３」だった。あざなどがなかったためとみられる。

国立情報学研究所の佐藤一郎教授は「ＡＩは何でもできる『魔法の 杖つえ 』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。ＡＩの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。

有本：そりゃそうでしょう。10億円丸損。

百田：いやしかし、僕はAI信奉者なんでね。できると思うんやけどね。だからこれ開発プログラマーがものすごい無能やったんじゃないかな。だって普通に母親に半殺し以上の事をされた。

服をつかまれて床に頭を叩きつけられたって、それ言うたら普通まともなAIやったら虐待と認定するでしょう。

有本：まあだから後はこれがね、本当か嘘かって事がどういう材料で分かるかって事なんですね。

百田：本当か嘘かっていうと、これ裁判所の話になってくるよね。

有本：だから、一応本当だという事で。

本当か嘘をついてるっていう可能性もゼロではないですからね。

百田：もちろんね。いやそれ言い出したらAIでは無理ですよね。

有本：まあそうですね。うん。ですからこんなね、虐待の判定なんて極めてなんて言うかな、本来人間が判断すべきヒューマンスキルを必要とされるものをね、いきなりAIに判定させようとして、それ人手不足は分かりますけど、それで役所が導入したらまあ失敗するだろうなと思ったらやっぱり失敗しましたねという事なんですね。

2021年からでしょう。だからもう4年かかって、10億円もかけたのにこんなミスが6割も出るようなものしか作れなかったって。じゃあ果たしてこれもミスなのか何なのかっていうのもよく分からないですね。

もっと簡単な話で言うと、このAIの虐待判定なんていうかなり高度な話ですけど、もっと簡単な事で言うと、あのコロナの時に色々自治体がアプリとか作ったじゃないですか。

あれほとんど使われませんでしたよね。何の役にも立たなかったんですよ。

あれも税金の無駄遣いね。その開発のために色んな人にお金使ってるわけですね。でまだそういうアプリを開発するための部署も起こされてるわけで。だからそのものすごい無駄なお金って。

百田：ものすごい無駄ですよ、本当に。なんでそんな無駄なことしちゃったんですか？人間やったら絶対やらないような無駄ですよね。

有本：あのコロナのアプリ本当にひどいね。で、あの時に国がコロナのアプリ作りますって言ってた時だったと思うんですけど、大阪が1早くですね、大阪のアプリみたいなのを作ったわけですよ。で国とは違って大阪これやりますみたいな事言ってたんですが、その時に私ある方と一緒に行ったんです。それはあの歌手野口五郎さん。

野口五郎さんは元々コロナとは関係なく、コロナの前からテイクアウトライブっていう自分で開発したアプリ持ってるんですね。で、これは野口さん歌手ですから、ライブ活動しますね。でそれをテイクアウトできるっていうアプリなんですよ。でこれなかなか優れていて、で自分のこの開発したアプリを野口さんの場合はお金儲けでもなく使ってくださいと、それなんでかって言うと、あの時コロナで外出制限とかされて、ライブとか全部開けなくなっちゃったわけですよ。

だからやっぱりそういう自分たちの業界の現実の事もあるので、これを是非活用してほしいっていう事を色んな人に呼びかけてたんですね。

それで大阪の区長にこの話をしたいという風に仰ったから、じゃあということで松井当時市長のとこに一緒に行ったんですね。私がアポイント取って、そしたらですね、松井さんその時非常に快く話を聞いてくれたんですけど、大阪はもうその大阪アプリっていうのがあるからダメですっていう事で、あの却下された。

だけど私はあの時聞いて野口さんのアプリいいなと思ったんですよ。なんでかって言うとね、個人情報とか入れる必要がないんです。端末に紐づくんですよ。例えば色んな人の集まる所あるじゃないですか、お店とか何とかとか、そこにQRコード1つ置く。そのQRコードこれで読み込むと、この端末を持ってる人がいついつどこに行ってた事が分かるんです。

例えばここでいた人からコロナ発生しますね。そうするとここにバッと通知が行くよね。あなたがいたこのお店にいた人がコロナ発生しましたよ。あなたもその検査した方がいいんじゃないですかと。もうこれだけでいいんですよ。

他の事何もいらない。それで個人情報を取る必要もないです。でじゃあ例えば、この端末を他の誰かが使ってどうなるんですかって言うんですけど、そんなことほぼないですから。

でしょう？そんな事あるわけがないんですよ。だからもういいんです。それで。要するに連絡がつくっていう事だけで良かったはずなんだから、この野口さんのアプリを使えば良かったんですよ。だけど全然で自分たちの作ったものっていうのに拘って結局ほとんど使われなかったと思います。

百田：コロナに関してはね、そもそもコロナに関してはもう何もかもが極端なような感じに今なってますからね。

有本：そうですね。もうやったら大騒ぎして未だにお騒ぎしてますからね。

百田：そうですよね。未だに、何か最近またワクチンを何かまた定期的に65歳以上は、優先的に打つとかいうね、と見たけどね。

有本：わけ分からないですね。

有本：まだ続くかと思うけどね。

有本：さて、という事でま、このAI逆転判定AIもダメでしたという事で。

有本：まあこれ役所役所仕事やね、もう。本当に役所仕事。あかんかったら失敗した。10億円無駄にした。10億円ね。いやもう無駄金ですよ、本当に痛いですね。10億円ね。