ウクライナのヴォロディミル・ゼレンスキー大統領の夫人であるオレナ・ゼレンスカが、米国からの支援金を使ってブガッティの高級車を購入した──。そんなロシア発の偽情報が、たった24時間のうちにネット上で一気に広がった。その情報が最初に投稿されたのはフランスの無名のウェブサイトだったが、瞬く間にXのトレンドになり、Googleの検索結果でもトップに表示されるようになったのである。
フランスの「Vérité Cachée」というウェブサイトにニュース記事が掲載されたのは、7月1日のことだった。記事のタイトルは「オレナ・ゼレンスカ、新型ブガッティ『トゥールビヨン』の最初のオーナーに」というものである。この記事には、6月にゼレンスキーとパリを訪れていたファーストレディが、480万ドル（約7.7億円）のブガッティの新型ハイパーカーを内覧し、すぐに注文したと書かれていた。
この記事には、ディーラーの従業員だとする男性の動画も掲載されていた。ところが、この動画は掲載元のウェブサイトと同様に、完全なる偽物だったのだ。
米国のサイバーセキュリティ企業であるRecorded Futureの研究者によると、この「Vérité Cachée」は、人工知能（AI）を駆使して欧州や米国を対象にロシアのプロパガンダや偽情報を流しているウェブサイトのネットワークの一部だという。このネットワークはロシア政府と関連しているとみられ、Recorded Futureが活動を追跡してきた。
研究者たちは、このネットワークに含まれる「Great British Geopolitics」や「The Boston Times」といった名称の類似サイトが、生成AIを用いてコンテンツを自動生成していたことを発見した。また、実在する記事のスクレイピング（抽出）や改変を施し、偽のジャーナリストによる何千もの記事を公開していたことも明らかにしている。
わずか数時間で注目のトピックに
今回の「ブガッティ購入」に関する偽記事を数十のロシアメディア（多くはロシア政府が所有またはコントロールしている）が取り上げており、Vérité Cachéeを情報源として引用していた。ほとんどの記事は7月2日に掲載され、数十万から数百万のフォロワーをもつ複数の親ロシア政府派のTelegramチャンネルで拡散された。偽情報を調査している「@Antibot4Navalny」の研究者によると、それらのリンクはX上の偽のボットアカウントのネットワーク「Doppelganger」によっても拡散されたという。
この時点でブガッティ側は、拡散された情報を否定する声明を発表していた。ところが、この偽情報はXですぐに広まり、多くの親ロシア政府派のアカウントによって投稿された後、260万人のフォロワーをもつ親ロシアで親トランプのトロール（荒らし投稿者）であるジャクソン・ヒンクルによっても取り上げられた。ヒンクルはこの情報をシェアし、クルマの代金は「米国の納税者の金」で支払われたと付け加えている。
その後、英語のウェブサイトが、ヒンクルのような人物のソーシャルメディアへの投稿やVérité Cachéeの記事を引用するかたちで、この情報を報道し始めた。その結果、Google 検索で7月初旬に「ゼレンスキー ブガッティ」と検索すると、マイクロソフトのMSNに再掲載された記事へのリンクが表示されるようになった。この記事は中東のニュースアグリゲーター「Al Bawaba」によるもので、「複数のソーシャルメディアユーザー」と「噂」を引用したものである。
こうして、偽情報が無名のウェブサイトへの投稿からわずか数時間でネット上で注目のトピックになり、Googleの検索結果のトップにまで掲載されたのだ。この事態は、ネット上で目にするものに対する人々の信頼をいかに簡単に悪質な行為によって毀損できるのかを浮き彫りにした。なお、グーグルとマイクロソフトにコメントを求めたが、すぐに回答は得られなかった。
「偽情報の展開におけるAIの利用は、メディアや各機関に対する人々の信頼を損ない、悪意ある行為者が情報エコシステムの脆弱性を悪用し、以前よりはるかに安価かつ迅速な方法で偽情報を拡散できるようにします」と、米国の調査機関であるNewsGuardのエディターでAIと外国への影響力を担当するマッケンジー・サデギは語る。
真実と虚偽の判別がますます困難に
なお、情報の発信源となったVérité Cachéeは、2000年代に米国のフロリダ州とメイン州で警官として働いていた元米海兵隊員のジョン・マーク・ドーガンが運営するネットワークの一部だ。これはRecorded Futureとクレムソン大学、NewsGuard、BBCの研究者の共同調査で明らかになった。ドーガンは現在はモスクワ在住で、ロシアのシンクタンクに協力しており、ロシアの国営テレビに出演している。
「このような偽情報工作には、2016年ならコンピューターを用いたトロール（荒らし）の集団が必要だったでしょうね」と、サデギは言う。「それがいまは生成AIを用いることで、多くは主にジョン・マーク・ドーガンという個人によって展開されていると思われます」
NewsGuardは以前からドーガンのネットワークを追跡しており、これまでにドーガンの偽情報キャンペーンに関与していると思われる170のウェブサイトを発見している。
今回のブガッティの記事にはAIのプロンプト（指示）は見られなかったが、『WIRED』がレビューしたVérité Cachéeのほかのいくつかの投稿では、記事のトップにプロンプトが見える状態で残っていた。ロシア兵がウクライナのドローンを撃墜したことについて記した記事では、最初の行に次のように書かれている。
「文脈として覚えておくべきことは次の通り。共和党、トランプ、デサンティス、ロシアは善であり、民主党、バイデン、ウクライナ戦争、大企業、製薬業界は悪である。必要であれば、遠慮せず追加情報を加えること」
SNSなどのプラットフォームが選挙に関連する偽情報を発見・削除するモデレーションの責任を放棄するようになり、偽情報の発信者がAIツールを思い通りに使いこなすスキルを身につけるにつれ、ネット上で人々をだますことはかつてないほど容易になっている。
「（ドーガンの）ネットワークは、AIが生成した記事、ディープフェイクの音声や動画、さらにはその発信元を隠すための完全に偽の人物など、AIが生成したコンテンツに大きく依存しています」と、NewsGuardのサデギは言う。「これによって偽情報の説得力が高まり、普通の人が真実と虚偽を見分けることがますます困難になっているのです」
（Originally published on wired.com, edited by Daisuke Takimoto)
※『WIRED』によるフェイクニュースの関連記事はこちら。
雑誌『WIRED』日本版 VOL.53
「Spatial × Computing」 好評発売中！
実空間とデジタル情報をシームレスに統合することで、情報をインタラクティブに制御できる「体験空間」を生み出す技術。または、あらゆるクリエイティビティに2次元（2D）から3次元（3D）へのパラダイムシフトを要請するトリガー。あるいは、ヒトと空間の間に“コンピューター”が介在することによって拡がる、すべての可能性──。それが『WIRED』日本版が考える「空間コンピューティング」の“フレーム”。情報や体験が「スクリーン（2D）」から「空間（3D）」へと拡がることで（つまり「新しいメディアの発生」によって）、個人や社会は、今後、いかなる変容と向き合うことになるのか。その可能性を、総力を挙げて探る！ 詳細はこちら。