フェイクニュース / Fake News

AIが生成する“偽画像”が流通し、誤情報が拡散するリスクが指摘されている米大統領選挙。生成AIを提供する企業は対策を施しているというが、いまも政治家を含む偽画像などの誤解を招くコンテンツが生成されてしまうことが明らかになった。

バイデン大統領を思わせる音声でデタラメな選挙情報を伝える、不気味なディープフェイク電話が、アメリカの有権者たちを惑わせた。「偽情報の拡散」に生成AIが果たすかもしれない役割について、政治家や専門家は大きな懸念を示している。

米辞書出版大手のメリアム・ウェブスターが「今年の単語」を発表した。選ばれたのは「真の」「本物の」「正真正銘の」といった意味を持つ 「authentic」。AIが生成した偽コンテンツが溢れる2023年、浮かび上がってきた言葉だ。

CEOであるイーロン・マスクが反ユダヤ主義的な陰謀論を支持したことを受け、大手ブランドがこぞってXへの広告出稿を取りやめている。名を連ねるのは、IBM、ライオンズゲート、EU、そして報道によるとアップルもだ。事態はさらに悪化する可能性があると専門家たちは指摘する。

米ドラマ『フレンズ』のメインキャスト、チャンドラー役の俳優マシュー・ペリーの突然の訃報が10月末に報じられた。詳しい死因は明らかになっていないが、このニュースに反ワクチン活動家たちが飛びつき、SNSで誤った認識を拡散している。

パレスチナ自治区ガザ地区のアル・アハリ病院で爆発が起きたのは現地時間の10月17日のことだ。爆発を誰が引き起こしたのか、真相解明を目指すファクトチェックの専門家らは、ソーシャルメディアの情報を調べ始めた。しかし、そこには偏った見解や誤情報が溢れており、これまでになく難しい作業を強いられたという。

不正に加工されたバイデン大統領の動画を削除しなかったFacebookの決定を、メタ・プラットフォームズの独立機関である監督委員会が検証すると発表した。2024年の米大統領選を前に、偽情報の扱いについてメタに対処を迫る狙いが透けて見える。

イスラエルとハマスの戦闘について、最新情報を知ろうとX（旧Twitter）を開いた人たちは、数々のフェイク画像、いつ撮影されたか分からない動画、一見本物のように見えるゲーム画面のキャプチャなどを目にすることになった。こうした「偽情報」の氾濫は、かつてないほどのレベルに及んでいると専門家たちは指摘している。

飛行機事故で死亡したとされる民間軍事会社「ワグネル・グループ」のエフゲニー・プリゴジン。偽情報を拡散する“トロール工場”を運営していた彼の支持者は多く、その影響力は誤情報や偽情報の拡散において根強く残っている。

誤情報の存在を事前に認識しておけば、本格的な“本格的なウイルス”に遭遇したときに騙されないで済む。「プレバンキング」と呼ばれるこの手法は現在、ゲームやYouTube広告などを使って展開されている。

生成AIコンテンツの普及で、新たなタイプの誤情報や偽情報が横行する時代が到来している。大手AI企業は7月中旬、コンテンツにウォーターマーク（電子透かし）を導入するなどの努力をすることを米政府と約束しているが、専門家は更なる対策が必要だと言う。

ローマ教皇フランシスコが白いパファーコートを着た偽画像が、ソーシャルメディアで拡散した。この“事件”はジェネレーティブAIが牽引する「ポスト真実」の時代に新たな歴史を刻んだと言っていい。