ChatGPT、選挙ディープフェイク対策で「漫画化」機能

■ 背景: 昨今、AI技術の進歩は目覚ましく、特に画像生成AIは写実的な偽画像・偽動画（ディープフェイク）の作成を容易にしている。これらの技術が悪用された場合、選挙における候補者の印象操作や世論の誘導など、民主主義の根幹を揺るがしかねない深刻な問題を引き起こす可能性がある。OpenAIは、自社のAIモデルであるChatGPTが、こうした政治的なディープフェイクの生成に利用されることを防ぐため、新たな技術的対策を講じる必要に迫られた。

■ なぜ重要か: 今回導入された「漫画化」機能は、ユーザーが政治的なディープフェイクを生成しようとした際に、AIがそれを検知し、生成される画像を写実的なものではなく、意図的に漫画のようなスタイルに変換する仕組みであると考えられる。これにより、選挙期間中などに拡散されやすい、政治家を対象とした悪意のある偽情報の作成を物理的に困難にする。例えば、特定の候補者が不正行為をしているかのような偽画像が生成されそうになった場合、それが漫画調になることで、現実味を帯びた偽情報としての拡散力を削ぐ効果が期待できる。

■ 編集部の見立て: この「漫画化」機能は、AIによる偽情報生成という現代社会が直面する喫緊の課題に対する、OpenAIからの具体的な回答と言える。しかし、技術は常に進化するため、この対策が長期的に有効であり続けるかは未知数だ。ディープフェイク技術もまた進化し、漫画化を回避する手法や、より巧妙な偽情報生成技術が登場する可能性も否定できない。今後、AI開発企業だけでなく、プラットフォーム事業者、政府、そして私たちユーザー一人ひとりが、AIリテラシーを高め、偽情報に対する感度を研ぎ澄ませていくことが、健全な情報空間を維持するために不可欠となるだろう。