フロリダ州がOpenAIとサムアルトマンCEOを訴訟、ChatGPT関連の殺人事件を受けて

ChatGPTのような生成AIが急速に普及する中、米フロリダ州がOpenAIとCEOのサムアルトマン氏を訴える事態が起きました。事件の背景には、ChatGPTの利用が関連する殺人事件の発生があります。この訴訟は単なる企業への法的措置ではなく、AI時代の「誰が責任を取るのか」という根本的な問題を投げかけています。

私たちの生活に急速に浸透したAIサービスですが、その安全性管理や利用者への警告体制がどこまで十分なのかは、これまで誰も正確に答えられていません。スマートフォンやSNSのような従来のテクノロジーと異なり、生成AIは予測不可能な回答を出す可能性があるため、企業がどの段階で「危険な使用方法」に対して警告を出すべきかが明確ではないのです。

フロリダ州の司法長官は、アルトマン氏が人命の安全に対して十分な配慮を欠いていたと主張しています。つまり、ChatGPTの開発・運営側は、このツールがどのような危険な目的に使われるかについても最初から予見し、それを防ぐべき責任があるのではないかということです。

これは製造業における「製造物責任」の考え方に近いものです。例えば、包丁メーカーは刃物が危険であることを知っていますが、その危険性をユーザーが理解しているなら訴訟の対象にはなりません。しかしAIの場合、その動作が人間にとって完全に予測可能か、という点が問題になります。AIは「想定外の使われ方」をされやすいツールだからです。

ここ数年、AI企業に対する規制機関や個人からの異議申し立ては増えていますが、具体的な死傷事件を理由に州政府が訴訟を起こすのはほぼ前例がありません。テクノロジー企業を規制する側は常に「新しい問題に対して後手に回っている」という状況が続いてきました。フロリダ州の訴訟は、その状況が変わり始めたことを示す一つの象徴です。

この訴訟の焦点は、AIサービス企業が「何までの責任を負うべきか」という線引きです。全ての予期しない悪用まで防ぐことは技術的に不可能かもしれません。しかし、明らかに危険性が高い使用方法については、ユーザーに対してより強い警告や制限を設けるべきではないか、という問いかけです。同時に、AIの開発段階で安全性テストをどこまで厳密に行うべきか、という企業側の努力義務についても問われることになります。