過激派組織「イスラム国」が、CNNとアルジャジーラを模倣した偽ニュース動画を流している

過激派組織「イスラム国（IS）」が、大手ニュースメディアであるCNNやアルジャジーラを模倣した見た目と雰囲気のフェイク動画を制作していることが、戦略対話研究所（ISD）が『WIRED』に独占的に共有した新たな報告書から明らかになった。

3月上旬に始まったこの活動の指揮をとったのは、ISのイデオロギーと歴史を広める目的の長編動画を制作している親ISメディア「War and Media（戦争とメディア）」である。ISは国連の指定するテロ組織で、イラクにおけるヤジディ教徒の大量虐殺のほか、2015年にパリで131人の死者を出した攻撃を含む複数のテロ攻撃で知られる。またISは、グループのメンバーがジャーナリストや兵士の首をはねる動画を宣伝したこともあった。

この活動において中心的な役割を果たしたのは、2つのYouTubeチャンネルである。ひとつはCNNであるかのように偽って英語の動画を流し、もうひとつはアルジャジーラのロゴ入りでアラビア語の動画を配信していた。動画には本物のニュースメディアのロゴが使われており、CNNの場合は画面の下に表示されたリアルタイムティッカーが映っているコンテンツに合わせて変化していた。

また、この活動ではソーシャルメディアのアカウントもネットワーク展開された。それらのアカウントは報道機関の関連アカウントに見えるようにブランディングされており、新たなオーディエンスにイデオロギーを広める取り組みとみられている。

偽ニュースのエコシステムを構築する試み

フェイク動画は英語とアラビア語で4本ずつ、計8本がオリジナルで制作されていた。それぞれの動画ではアフリカにおけるISの拡大や、シリアでの戦争などのテーマが論じられている。

なかには、モスクワのクロッカス市庁舎が襲撃されて死者が出た今年3月の攻撃に焦点を当てた動画もあった。ISはこのテロの犯行への関与を主張しており、動画はテロがウクライナの犯行であると宣伝したロシア政府のつくり話に対抗しようとするものだった。

「本質的には、フェイクニュースの嘘を暴こうとするためのフェイクニュースでした」と、戦略対話研究所でアフリカ・中東・アジア担当のエグゼクティブディレクターを務めるムスタファ・アヤドは説明する。アヤドはこの活動について、欧米の主流なプラットフォームにおける検閲の取り組みをどれだけうまく回避できるか確認するための、試験的な実施だったとも考えているという。

「ISとは無関係のように見せかけた偽のニュースエコシステムをつくり出すISメディアの協調的な取り組みが現実に見られたのは、今回が初めてです」と、アヤドは言う。「これはまさにそのシステムをテストするものでした。ISはいまや、自分たちの戦略の弱点がどこにあるのかを把握できています」

それらの動画は1カ月半後にYouTubeによって削除されたが、それまでの間にIS支持者たちによってダウンロードされ、それぞれのアカウントで再公開された。一部の動画は各プラットフォームが協調してテロ関連コンテンツを削除するために使用するハッシュ共有データベースに追加されていないことで、現在もネット上に出回っている。

「ISがやったことは、本質的には報道機関のドッペルゲンガー（分身）となるソーシャルメディアチャンネルで構成される小規模な偽のエコシステム全体を構築することでした」と、アヤドは言う。

YouTubeに登録された動画は、それぞれ数千回の閲覧を獲得した。どれも大規模に拡散することはなかったが、「ISにとっては、普段から注目されるような場所ではない領域でいくらかの注目を得られ、動画の下で実際に人々がコメントしている様子を確認できたことで十分」だったと、アヤドは説明している。

なお、YouTubeにコメントを求めたが返答はなかった。

過去の取り組みより洗練された手法

過去には、動画にNetflixやAmazon Studiosなどのロゴを載せることで、プラットフォームのモデレーションを回避しようとしたIS支持者たちもいた。それと比べると今回の試みは、より洗練されているように感じられる。

「過去の事例は、既存のISのロゴの上に、別のメディアからもってきたロゴを単に埋め込んだだけでした」と、アヤドは言う。「（今回の活動は）実際にそれらのメディアとしてチャンネルがつくられ、特定の問題を扱ったニュース放送全体が制作されました。放送に使われた映像はISだけではなく、ネット上で見つかる映像やその他のニュースチャンネルの映像など、さまざまな場所から調達されたものでした。このような動きは、モスクワでのテロ攻撃の直後から本格化しています」

今回の活動は、コンテンツモデレーションの回避においてISの巧妙さが増していることを示す最新の兆候といえる。今回のニュースが伝えられるちょうど1週間前には、ISが英語圏のオーディエンスに届けることを目的に制作している週刊ニュース放送でAIが生成した“キャスター”が起用されていることが、『ワシントン・ポスト』の報道によって明らかになった。

「こうしたことが今後もっと増えていくことは間違いないと思っています」と、アヤドは語る。「多くの新たなチャンネルを模倣した、よりリアルな絵づらのニュースをつくり出すことが、AIによって可能になっています。そういうものを目にする機会がもっと増え、偽のコンテンツを見分けることがますます難しくなるはずです」

（Originally published on wired.com, edited by Daisuke Takimoto)

※『WIRED』によるフェイクニュースの関連記事はこちら。

イランのイスラエル攻撃に便乗したフェイク動画が拡散している

イランのイスラエル攻撃に関連するものだと見せかけた虚偽の情報が、Xで拡散している。生成AIを使用してつくられた動画や写真のほか、過去の紛争の映像を再利用したものなど、全く関係のないコンテンツを今回のものだと騙るケースもある。

なぜ中国は偽情報キャンペーンが下手なのか

中国政府主導の大規模な偽情報キャンペーンが開始されてから7年が経過した。だが、生成AIの時代になってもまだ、その“成果”は上がっていないようだ。世界的な選挙イヤーである今年、そこへの介入や影響はどの程度となるだろうか。

実空間とデジタル情報をシームレスに統合することで、情報をインタラクティブに制御できる「体験空間」を生み出す技術。または、あらゆるクリエイティビティに2次元（2D）から3次元（3D）へのパラダイムシフトを要請するトリガー。あるいは、ヒトと空間の間に“コンピューター”が介在することによって拡がる、すべての可能性──。それが『WIRED』日本版が考える「空間コンピューティング」の“フレーム”。情報や体験が「スクリーン（2D）」から「空間（3D）」へと拡がることで（つまり「新しいメディアの発生」によって）、個人や社会は、今後、いかなる変容と向き合うことになるのか。その可能性を、総力を挙げて探る！ 詳細はこちら。