ディープフェイク / Deepfake

米前大統領のドナルド・トランプは先週末、テイラー・スウィフトのファンが彼を支持しているように見せかけるAI生成画像をソーシャルメディアに投稿した。これは、「ハリス陣営がAIで群衆を水増しした」という虚偽の主張に続くものだ。

偽動画に代表されるディープフェイク技術が精巧さを増すなか、それを見抜く技術も進化している。米国の画像・動画操作の権威が立ち上げたスタートアップは、AIと伝統的な科学捜査の手法を組み合わせて対抗しようとしている。

ウクライナのゼレンスキー大統領の妻が米国からの支援金でブガッティの高級車を購入したという偽情報が、このほどロシア発で拡散された。無名のウェブサイトが偽の記事として発信した情報は、いかにして一気に世界中に広がったのだろうか。

2024年11月の米大統領選挙を前に、ジョー・バイデン大統領を揶揄したディープフェイク動画が大量に拡散している。背後にロシアの存在が見え隠れする一連の取り組みは、偽情報の拡散における人工知能（AI）の威力を改めて浮き彫りにしている。

OpenAIが生成AIに関して、どのように動作することを望んでいるのかを示すモデル仕様書の草案を公表した。この仕様書からは、ポルノなどの露骨な表現を含むコンテンツをOpenAIが責任をもって“正しい”かたちで生成させる方法を模索していることが浮き彫りになっている。

「ヤフーボーイズ」と呼ばれる口達者な詐欺師たちが、いやま誰もが使えるAIの顔交換技術によって、ロマンス詐欺を行なう巧妙な手口を見てみよう。

AIツールを用いて主に女性の写真を有料で“ヌード化”するウェブサイトの存在が、『WIRED』の取材によって明らかになった。誰かの友人とみられる女性や赤の他人の写真が投稿されたフィードもあり、若い女性や少女、盗撮が疑われる画像も含まれている。

オープンソースの生成AIツールによって、いまや誰でもアート作品をつくれる時代が到来した。一方で、不同意のディープフェイク・ポルノの制作にも使われるという“闇”の側面についての懸念が高まっている。