Google EarthのAIディープフェイクツール、公開から1日で停止

Googleが、AIを使って衛星画像に手を加えることができる新しい機能を公開しましたが、わずか1日で提供を停止するという、とてもスピーディーな対応を行いました。この機能は、まるで魔法のように、私たちが「こんな画像を作ってほしい」と文字で指示するだけで、現実世界そっくりの、でも実際には存在しない「ディープフェイク」と呼ばれる画像を生成できるというものでした。

例えば、Google Earthで見たことのある街の風景に、突然「ここに新しい公園を作って」とか「あの建物の隣にカフェを置いて」といった指示を出すと、AIがそれらしい画像を合成してくれる、といったイメージです。実際に、一部のユーザーはこのツールを使って、意図的に画像に新しい要素を追加する、といった実験を試みていたようです。これは、AIが私たちの想像をどこまで現実に近づけられるのか、という可能性を探る面白い試みだったと言えるでしょう。

しかし、こうした技術は、使い方を間違えると大きな問題を引き起こしかねません。例えば、存在しない出来事をあたかも現実のように見せる偽の画像を作ってしまったり、誤解を招くような情報が広まってしまったりする危険性です。Googleも、こうした技術の悪用や、それが社会に与える影響について、真剣に考えたのでしょう。だからこそ、公開からわずか1日という異例の速さで、この機能の提供を一時的に止めるという決断を下したと考えられます。

Googleはこの機能について、「AI技術の可能性を探るための実験的な取り組みだった」と説明しています。つまり、まだ開発の途中であり、本格的に世に出す前に、もう少し慎重に検討する必要がある、ということです。今後、倫理的な問題や安全面について、さらに深く議論し、対策を練った上で、改めて提供するかどうか、あるいはどのような形で提供するかを判断していくことになるでしょう。AI技術は私たちの生活を豊かにする可能性を秘めていますが、その一方で、どういったルールのもとで、どのように使っていくべきか、社会全体で考えていくことが大切になってきそうです。