臨床医の拒否権：自律型AI処方における信頼、責任、不確実性のナビゲート

AIが薬を処方する時代が、すぐそこまで来ているかもしれません。これまでAIは、お医者さんの「お助け役」として、診断や治療の参考にされることがほとんどでした。しかし、アメリカでは、AIが自分で薬を選ぶ「自律型」の処方まで認められようとしています。例えば、アメリカの法案H.R. 238や、ユタ州で行われている薬の処方更新の試験的な取り組みなどが、その動きを後押ししています。

ただ、AIが薬を処方するとなると、いくつか心配な点が出てきます。AIが「この薬を処方しましょう」と決めたとき、本当にそれが正しいのか、もし間違っていたら誰が責任を取るのか、といったことです。現在のAIの承認方法では、AIがどれくらい「自信があるか」を示す目安はありますが、いくつかの大切なことが足りていないと、この論文は指摘しています。

具体的には、以下の3点が重要だと考えられます。

i) 「この薬は大丈夫そうです」というAIの自信度を数値で示し、自信がないときは処方をストップするような仕組み。 ii) AIが「知らない」という事実（これは、まだ勉強不足だから知らないのか、それとも、どう考えても答えが出せないほど難しい問題なのか、区別が必要です）と、実際の病気の状況が複雑で判断が難しいこと（こちらは、たとえAIが完璧でも答えが出せないような曖昧さ）を、きちんと区別して私たちに伝えること。 iii) AIがなぜその薬を処方しようと思ったのか、その理由を、誰が責任を取るかをはっきりさせるために、決定の過程で分かりやすく説明すること。

こうした点が、AIが安全に薬を処方するために最低限必要な「設計図」だと、この論文では提案しています。この提案は、専門家だけでなく、実際に薬を処方しているアメリカの医師136人への調査でも裏付けられています。AIが医療現場で活躍するためには、技術的な進歩だけでなく、こうした「信頼」と「責任」に関わる問題に、しっかりと向き合っていくことが不可欠なのです。