Google 検索でAIが検索結果の概要を生成して表示する新機能「AI Overviews」が、検索ワード（クエリ）に対して奇妙で誤解を招く回答を生成したとして、5月下旬にソーシャルメディアで拡散された。このときのグーグルの反応は、技術に問題があったという見方を軽視するような声明を出すというものだった。
これに対してグーグルの検索部門責任者であるエリザベス・リードは、この失敗によって改善が必要な領域が浮き彫りになったことを認めた。そのうえで、「何が起きたのか、そしてどのような対策を講じたのかを説明したかった」と、5月30日（米国時間）に公式ブログに投稿したのである。
この投稿でリードは、AI Overviewsの結果のなかで最も拡散され、そして誤りがひどかった2つに言及した。ひとつは、「岩を食べる」行為について「体にいい可能性がある」という理由で、Google 検索のアルゴリズムが推奨していたことである。もうひとつは、ピザのソースにとろみをつけるために、毒性のない接着剤を使うことを提案していた。
岩を食べる行為は、ネット上で多くの人が書いたり質問したりしたことのあるトピックではないので、検索エンジンが参考にできる情報源は多くない。リードによると、検索エンジンは風刺サイト「The Onion」である記事を見つけて、その記事が1社のソフトウェア会社によってリポストされていたことで、その情報を「事実」であると誤認したという。
Google 検索が「ピザに接着剤を塗る」ことをユーザーに提言したことについては、リードはその誤りの原因はユーモアのセンスの欠如であると弁明した。
「AI Overviewsがオンライン掲示板から、皮肉や荒らしと捉えられるようなコンテンツを取り上げたことを確認しました」と、彼女は公式ブログに書いている。「オンライン掲示板は多くの場合に本物の生の情報を得られる素晴らしい情報源ですが、場合によっては『ピザにチーズをくっつけるために接着剤を使う』といった役に立たないアドバイスにつながることもあります」
AIが生成する夕食のメニューは、どれも最後まで慎重に読まず、鵜呑みにしないほうがいいかもしれない。
リードはまた、拡散されたスクリーンショットに基づいてグーグルの新しい検索機能の質を判断すれば、不公平が生じることも示唆している。グーグルは新機能のリリース前に広範なテストを実施しており、人々がAI Overviewsを高く評価していることがデータで示されていると、リードは主張したのだ。例えば、AI Overviewsを通してユーザーが見つけたページは、ユーザーが滞留する可能性がより高いという。
拡散した偽のスクリーンショット
この恥ずべき失敗の原因は何だろうか。注目された今回の誤りについてリードは、常に善意でなされるとは限らないインターネット全体での“監査”の結果であると特徴づけている。
「多くの奇抜な検索において何百万人もの人々がこの機能を利用していることは、他に代えがたい価値があります。なかには誤った結果をつくり出すことを目的としたような、無意味で“斬新”な検索も見られました」
誤りのあるAI Overviewsの広く拡散されているスクリーンショットの一部について、グーグルは偽物であったと主張している。実際にGoogle 検索でテストしたところ、それは事実のようだ。
例えば、あるユーザーがXに投稿したスクリーンショットは、「Can a cockroach live in your penis?（ゴキブリはペニスの中で生きられるのか？）」という質問にAI Overviewsが回答しているもののように見え、検索エンジンはそれを普通のことであると熱心に説明している。この投稿は500万回以上も閲覧された。
ところが、詳しく調べたところ、このスクリーンショットの表示形式は、AI Overviewsが実際にユーザーに提示する方法と一致していない。実際に試してみても、この検索結果に近いものを再現することはできなかった。
“偽AI Overviews”の誤解を招くスクリーンショットにだまされたのは、ソーシャルメディア上のユーザーだけではない。『ニューヨーク・タイムズ』は、この機能に関する報道の訂正記事を出し、AI Overviewsが「うつ病になったらゴールデンゲートブリッジから飛び降りるべきである」とユーザーに示唆したことは一度もないと明言した。それはソーシャルメディア上の“ダークミーム”にすぎなかったのである。
「イヌをクルマに置き去りにすることや、妊娠中の喫煙、うつ病といったトピックについて、わたしたちが危険な検索結果を返したとほのめかす人もいました」と、リードは公式ブログの投稿に書いている。「そのようなAI Overviewsの結果は一度も表示されていません」
グーグルは技術的な改善の実施で対応
一方でリードは公式ブログへの投稿で、検索機能の新しく大幅なアップグレードの当初のあり方について、すべて適切だったわけではないことも明言した。グーグルはAI Overviewsに関して「12以上の技術的な改善」を施したと彼女は説明している。
この技術的な改善のうち4つについては、次のように説明されていた。
- AI Overviewsの表示にふさわしくない「無意味なクエリ」を検出する性能の改善
- 「Reddit」のような掲示板サイトのユーザー生成コンテンツに大きく依存することの制限
- ユーザーが有用と感じていない状況でのAI Overviewsの提供頻度の低減
- 健康などの重要なトピックにおいてAIによる要約を無効にするガードレールの強化
これに対してリードのブログ投稿には、AIによる要約の大幅な縮小を示唆する言及はなかった。グーグルはユーザーからのフィードバックを確認し続けることで、必要に応じて機能を調整していくという。
（Originally published on wired.com, edited by Daisuke Takimoto)
※『WIRED』によるグーグルの関連記事はこちら。
.jpg)
雑誌『WIRED』日本版 VOL.52
「FASHION FUTURE AH!」は好評発売中！
ファッションとはつまり、服のことである。布が何からつくられるのかを知ることであり、拾ったペットボトルを糸にできる現実と、古着を繊維にする困難さについて考えることでもある。次の世代がいかに育まれるべきか、彼ら／彼女らに投げかけるべき言葉を真剣に語り合うことであり、クラフツマンシップを受け継ぐこと、モードと楽観性について洞察すること、そしてとびきりのクリエイティビティのもち主の言葉に耳を傾けることである。あるいは当然、テクノロジーが拡張する可能性を想像することでもあり、自らミシンを踏むことでもある──。およそ10年ぶりとなる『WIRED』のファッション特集。詳細はこちら。