批判殺到。他人のインスタ画像を無断でAI合成できる機能、3日で停止

AIが急速に進化している今、企業と一般ユーザーの「何が問題か」という感覚のズレが、これまで以上に明らかになっています。

Metaが先日発表したInstagramの新機能は、簡単に言えば「他人の写真をAIで加工・合成する」というもの。技術的には確かに革新的です。しかし、その機能がわずか3日で停止されてしまいました。理由はシンプル—ユーザーからの猛反発です。

なぜこんなに早く廃止されたのか。それは、この機能が「同意なしに他人の顔や画像を使える」という点にあります。たとえば、あなたのInstagram投稿の写真を、見ず知らずの人がAIで別人の体に合成したり、不適切な場面に配置したりできる可能性があったわけです。こうした使い方は、名誉毀損やプライバシー侵害に直結します。

企業側がこの機能を作った意図は、おそらく「ユーザーがより創造的に写真を楽しめるように」というものだったでしょう。同じAI機能を使ったフィルターやエフェクトは、多くのSNSで人気があります。ただし、それらは「自分の写真に対してのみ」使うことが前提です。今回の機能は、その境界線を曖昧にしてしまった。

深刻なのは、この問題がテクノロジー企業全体の課題を映していることです。AIの能力が飛躍的に高まっているのに対し、企業の倫理的なチェック体制がついていっていない。あるいは、技術開発のスピード感のあまり、社会的な影響をじっくり検討する余裕がない—そういう状況が透けて見えます。

ユーザーの側も、今や「便利さ」だけでは納得しません。「これは誰の許可でできるのか」「自分の画像がどう使われるのか」という問い自体が、デジタルリテラシーの高まりを示しています。つまり、社会全体がAIとの付き合い方をより厳しく見張るようになった、ということです。

企業にとって最速の失敗は、実は長期的には幸運かもしれません。完全に大規模展開してから炎上するよりも、早期に軌道修正できるからです。ただし、ここからどう学ぶかが重要。AIを作るときに、技術者だけでなく法律家、倫理専門家、そして何より一般ユーザーの声をもっと組み込む必要があるという教訓は、業界全体に波及するでしょう。