ChatGPT、選挙ディープフェイク対策に「漫画化」導入

■ 背景: ChatGPTを開発するOpenAIは、AIによって生成された画像が悪用され、特に選挙期間中に誤情報や偽情報を拡散するディープフェイクの作成につながるリスクを認識している。この問題に対処するため、同社は新たな技術的対策を導入した。具体的には、政治的な文脈での画像生成を試みた際に、生成される画像が写実的なものではなく、意図的に「漫画風」のスタイルになるように調整されるようになった。これにより、現実の人物や出来事を模倣した偽の画像が作成されにくくなることが期待されている。

■ なぜ重要か: 選挙におけるディープフェイクは、有権者の判断を誤らせ、民主主義プロセスそのものを脅かす深刻な問題となり得る。AI技術の進化は目覚ましいが、その利用方法には倫理的な課題が常に伴う。OpenAIのような主要なAI開発企業が、自社技術の負の側面に対処するために具体的な対策を講じることは、AIの健全な発展と社会への貢献を考える上で極めて重要である。今回の「漫画化」というアプローチは、直接的な禁止ではなく、生成物のスタイルを変化させることで、悪用を間接的に防ごうとするユニークな試みと言える。

■ 編集部の見立て: この「漫画化」対策は、ディープフェイク生成のハードルを上げる一定の効果が見込まれるものの、その有効性は限定的である可能性も否定できない。AI技術は常に進化しており、新たな手法で写実的な画像を生成する技術も開発されるだろう。また、漫画風であっても、文脈によっては誤解を招く可能性も残る。OpenAIには、今後も技術の進歩に合わせて対策を継続的に見直し、強化していくことが求められる。同時に、AIリテラシーの向上や、ディープフェイクに対する社会全体の認識を高めることも、多角的な対策として不可欠であると考えられる。