質問主意書

第217回国会(常会)

質問主意書

質問第一三三号

虐待判定AI及び相談事業AIをめぐる利益誘導に関する質問主意書

右の質問主意書を国会法第七十四条によって提出する。

  令和七年五月二十八日

浜田 聡


       参議院議長 関口 昌一 殿



   虐待判定AI及び相談事業AIをめぐる利益誘導に関する質問主意書

 読売新聞は令和七年三月三日、国が十億円かけて開発した児童相談所の「虐待判定AI」について、判定結果に六割の誤りがあることから、こども家庭庁が導入を見送ったことを報道し、国民の間に多くの批判が起こった。児童虐待防止緊急対策が閣議決定された平成三十年七月二十日の閣僚会議のわずか二日前に開催された自民党の児童虐待特別委員会において、認定NPO法人フローレンス創業者の駒崎弘樹氏は、ICTの活用と称して虐待判定AIの活用を要望した。当該要望により虐待判定AIの研究が決まったと思料する。

 駒崎氏は当該要望に際し、先行事例として三重県の虐待判定AIを大々的に紹介していた。しかし、三重県では、児童相談所が「保護率三十九%」としたAIの評価も参考に一時保護を見送った結果、令和五年五月に女児が虐待死する事案が発生した。なお、児童相談所に虐待判定AIを導入した当時の三重県知事は、SNSで駒崎氏の友人であると公言し、フローレンスに寄附をしていることも公表している鈴木英敬衆議院議員である。

 当該要望が閣議決定され、福祉分野におけるAI活用が既定路線になると、駒崎氏は加藤勝信衆議院議員や河野太郎衆議院議員に対し、「相談事業AI」について積極的に政策提言した。令和六年五月三十一日に閣議決定された「こどもまんなか実行計画二〇二四」には、フローレンスが提言したデジタルを活用した相談支援が盛り込まれた。

 また、駒崎氏は、政府が法律に基づかない「謎のQ&A」によって、認定NPO法人がAI開発事業に寄附金を使用することを無意味に妨げていると主張し、令和七年二月に相談事業AI開発のための営利企業を創設した。

 他方、虐待判定AIの導入見送りが報道されたわずか三日後の令和七年三月六日、駒崎氏の営利企業が開発する相談事業AIを自治体向けに宣伝するセミナーに三原じゅん子内閣府特命担当大臣(こども政策)が動画出演した。自らが直接の受益事業者となる事業を政府に政策提言することは、利益相反行為に類似するものと思料する。また、認定NPO法人で開発することが不適切とされたことを踏まえて創設された営利企業において開発された相談事業AIを宣伝するセミナーに、当該事業を管轄する大臣が参加することは、特定の事業者に対する利益誘導とみなされるものと思料する。

 以上を踏まえて、以下質問する。

一 虐待判定AIの研究が閣議決定された平成三十年当時は、AIの技術は発展途上にあった。また、先行事例とされる三重県の虐待判定AIについては、令和五年に児童の虐待死事案が発生したように、実証効果が不透明であった。児童の生命に関わるシステムであるため、虐待判定AIの導入には慎重な検討が求められてしかるべきであるが、駒崎氏の要望からわずか二日で閣議決定したことは適切であったか、政府の見解を示されたい。

二 虐待判定AI開発を政府に提言した駒崎氏の営利企業において開発された相談事業AIを自治体に宣伝するセミナーに三原大臣が動画出演したことについて、利益誘導に当たるか政府の見解を示されたい。

 質問主意書については、答弁書作成にかかる官僚の負担に鑑み、国会法第七十五条第二項の規定に従い答弁を延期した上で、転送から二十一日以内の答弁となっても私としては差し支えない。

  右質問する。