AIが「安全」判定キノコに猛毒 食べた少年が一時危篤、中国湖北省：朝日新聞

「これなら食べられる！」とAIが教えてくれたのに、まさか猛毒だったなんて…。中国で起きたこの驚きのニュース、まるでSF映画のようですが、実は私たちのすぐそばにあるAIの「落とし穴」を浮き彫りにしています。

舞台は中国湖北省武漢市。6月、9歳の少年が、なんと野生のキノコを口にしてしまいました。このキノコ、見た目は美味しそうでも、実は「テングタケ」という、とっても危険な毒を持つ種類だったのです。少年は一時、命が危ないほど体調が悪化してしまいました。一体なぜ、こんなことに？

原因は、なんとAI（人工知能）による「安全判定」でした。少年が食べたキノコは、AIによって「食べるのに安全」と判断されていたようなのです。AIが「大丈夫」と言ったものを信じてしまった結果、こんな恐ろしい事態になってしまったとは…。

AIは、たくさんの写真やデータを学習して、物事を判断するのが得意です。例えば、AIに「このキノコは食べられるか？」とたくさんのキノコの画像と「安全」「危険」という情報を教え込めば、新しいキノコを見せても「これは安全だよ」とか「これは危ないよ」と教えてくれるようになる、というわけです。今回のケースでも、AIは「安全なキノコ」のデータだけをたくさん学習していたか、あるいは「危険なキノコ」の特徴をうまく捉えきれなかったのかもしれません。

でも、自然界には、見た目がそっくりなのに毒があるキノコや、地域によって呼び名が違うキノコなど、AIでも間違えやすいものがたくさんあります。特に、野生のキノコ狩りは、専門家でも間違えることがあるくらい、難しい世界。AIがどんなに進化しても、自然の複雑さや微妙な違いまで、完璧に理解するのはまだまだ難しいのでしょう。

今回の事件は、AIを「万能の判断ツール」として鵜呑みにすることの危険性を示しています。AIの判定はあくまで参考の一つ。特に、命に関わるようなこと、例えば食べ物や薬に関しては、最終的には人間の知識や経験、そして専門家の意見を大切にする必要がある、ということを改めて考えさせられますね。