米国のジョー・バイデン大統領が大統領の職にふさわしくないことを示唆するディープフェイク動画、いわゆる“チープフェイク”が、ここ数週間にわたってSNS上で拡散されている。こうしたなか親ロシアの偽情報ネットワークが、おむつを履いたバイデンが車いすに乗せられているパロディミュージックビデオを投稿した。
この動画は「バイバイ、バイデン（Bye, Bye Biden）」と呼ばれ、5月中旬に初めて投稿されてからXで500万回以上も再生されている。この動画で描かれているバイデンは老いぼれて補聴器を付けており、たくさんの薬を摂取している。
また、ウクライナの国旗を模した衣装に着替えるまで米国市民には金を渡そうとしない一方で、不法移民を象徴するようなキャラクターに金を渡している様子も見られる。別のシーンでは、バイデンが壁に南部連合旗が掲げられた家の玄関を開け、移民たちを中に入れてその家を乗っ取らせている。動画はドナルド・トランプ前大統領が主張した「盗まれた選挙」の陰謀論にも言及していた。
この動画は、ロシアによるウクライナ侵攻を受けて2022年に国外脱出した実在のロシア人バンド「Little Big」のスタイルを模したグループ「Little Bug」によって制作された。モスクワ在住の俳優数名が出演している（彼らはロシアメディア「Agency.Media」の取材に応じている）のだが、人工知能（AI）技術を用いて彼らをバイデンやトランプ、そしてLittle Bigのリードボーカルであるイリヤ・プルシキンに似せているようだ。
「バイデンとトランプを演じているのは同じ俳優のようですが、ディープフェイク動画の編集技術を用いることで、ある場面ではバイデンに、別の場面ではトランプに似ているように見えるまで俳優の顔の特徴を変えています」と、AIと機械視覚の専門家であるアレックス・フィンクは語る。フィンクは『WIRED』の依頼で動画を分析した。「編集に一貫性がないので、この俳優がバイデンに似ている場面もあれば、あまり似ていない場面もあります。顔の特徴が変わり続けているのです」
選挙関連のディープフェイクの拡散に対処する目的で設立された非営利団体「True Media」が動画を分析したところ、AIが生成した音声の使用が100％だったという。この団体は、俳優の顔を操作するために何らかのAI技術が78％の確率で使われていると評価している。
この動画でディープフェイク技術が使用されていることは明らかであり、そのことはGAN（敵対的生成ネットワーク）による少数の反復を用いてバイデンとトランプのキャラクターがつくられ、この動画が急いで制作されたものであることを示唆していると、フィンクは言う。
親ロシアのネットワークによる数万回の投稿
動画の黒幕が何者なのかは不明だが、「バイバイ、バイデン」はDoppelgangerとして知られる親ロシアのネットワークによって投稿されている。一連の取り組みにおいて動画はXに何万回も投稿されており、過去6カ月間にわたってDoppelgangerの活動を追跡していたロシアの研究者による匿名集団「Antibot4Navalny」によって発見された。
この取り組みは5月21日に開始されており、Xでは13カ国語で約4,000の投稿があり、約25,000アカウントのネットワークによって拡散されていた。Antibot4Navalnyの研究者は、この投稿は生成AIを利用して書かれたものと結論づけている。動画はXで650万回シェアされ、500万回近く視聴されている。
この動画をシェアした著名なアカウントのなかには、ロシア賛美と西側批判で知られるスイスのソーシャルメディア・パーソナリティのワディム・ロスクトフが運営し、33万人のフォロワーをもつRussian Marketが含まれていた。2023年に市民権を求めてロシアに亡命したタラ・リードも動画をシェアしており、リードは1993年にバイデンから性的暴行を受けたと訴えている。
取材に応じた研究者によると、この動画もオンライン上での検知を避けるべく操作されている。「Doppelgangerのオペレーターは任意の箇所で動画をトリミングしており、技術的にはミリ秒単位で異なるものになっています。これにより、誤使用検知システムには個別の異なる動画とみなされる可能性が高いでしょう」と、Antibot4Navalnyの研究者は説明している。
「この動画は曖昧さの点において独特なものです」と、フィンクは語る。「ロシアの有名なバンドかもしれないし、そうではないかもしれない。ディープフェイクかもしれないし、そうではないかもしれない。ほかの政治家への言及があるかもしれないし、そうではないかもしれない──。つまり、明らかに“ソ連スタイル”のプロパガンダ動画なのです。この曖昧さによって、複数の競合するバージョンが存在することになり、何百もの記事や議論がオンライン上で展開されます。そしてそれが、より多くの人の目に触れることにつながるのです」
偽情報の拡散におけるAIの威力が明らかに
今年11月の米大統領選を弱体化させる取り組みをロシア政府が強化するなか、ロシアが新たなAI技術の活用に意欲的であることがますます明らかになっている。脅威インテリジェンス企業のRecorded Futureが発表した新たな報告書は、ロシアとつながりをもつ一連のキャンペーンが生成AIツールを用いて偽ウェブサイトのネットワーク上でトランプ支持のコンテンツを拡散していることを明らかにしており、この傾向が浮き彫りになった。
報告書によると、「CopyCop」と呼ばれるキャンペーンがAIツールを使って本物のニュースサイトからコンテンツをスクレイピング（抽出）し、右翼的なバイアスをかけた上でそれらを再利用している。こうしたコンテンツをCopyCopでは、1,000人以上のジャーナリストが所属すると称する「Red State Report」や「Patriotic Review」のような偽ウェブサイトのネットワークに再掲載したといい、その方法について報告書は詳しく説明していた。ちなみに、この1,000人のジャーナリスト全員が偽物であり、いずれもAIによって生成されたものである。
CopyCopが拡散する内容には、バイデンの演説中のミスやバイデンの年齢、トランプのリードを示す世論調査結果、トランプの最近の有罪判決や裁判は「影響がない」「雑然としたものだった」といった主張などが挙げられる。
これらのサイトがどれだけの影響を及ぼしているかは、まだ不明だ。SNSプラットフォームを調査したところ、CopyCopが作成した偽サイトのネットワークへのリンクはほとんど見つからなかった。
しかし、CopyCopのキャンペーンではっきりしたことは、AIを使って偽情報の拡散を大きく加速させることが可能である、ということである。また専門家によると、これはDoppelgangerのようなネットワークを含む、より広範な戦略の第一歩にすぎない可能性が高い。
「このようなウェブサイト自体のエンゲージメントを推定することは、依然として困難です」と、Recorded Futureのアナリストのクレメント・ブリエンスは語る。「AIが生成したこれらのウェブサイト上のコンテンツは、おそらくまったく注目されていません。しかし、それはディープフェイクのような標的を絞ったコンテンツを公開する際のために、こうしたウェブサイトを信頼できる情報源として確立させる役割を果たします。既存の支持者や聴衆をもつロシアや親ロシアの影響力のある組織や個人によって、ディープフェイクのもつ影響力は大きくなるでしょう」
（Originally published on wired.com, edited by Daisuke Takimoto)
※『WIRED』によるディープフェイクの関連記事はこちら。
雑誌『WIRED』日本版 VOL.53
「Spatial × Computing」 好評発売中！
実空間とデジタル情報をシームレスに統合することで、情報をインタラクティブに制御できる「体験空間」を生み出す技術。または、あらゆるクリエイティビティに2次元（2D）から3次元（3D）へのパラダイムシフトを要請するトリガー。あるいは、ヒトと空間の間に“コンピューター”が介在することによって拡がる、すべての可能性──。それが『WIRED』日本版が考える「空間コンピューティング」の“フレーム”。情報や体験が「スクリーン（2D）」から「空間（3D）」へと拡がることで（つまり「新しいメディアの発生」によって）、個人や社会は、今後、いかなる変容と向き合うことになるのか。その可能性を、総力を挙げて探る！ 詳細はこちら。