AIの評価操作、進化するチャットボットとの闘い

検索エンジン最適化（SEO）の影響やAI技術の進展により、インターネットユーザーが情報を調べる際にチャットボットを利用するケースが増えています。

The New York Timesによると、AI最適化（AIO）を提供するスタートアップが、AIの出力結果を意図的に操作する手法を提案しているとのことです。

ニューヨーク・タイムズのコラムニスト、ケビン・ルース氏は、自身の評判がGoogleのGeminiやMicrosoftのCopilotなどで不当に低く評価されていることに気づきました。

これは、ルース氏が以前の記事でMicrosoftの生成AIについて批判的な内容を報じたことが原因と考えられています。

この現象の背景を探るため、ルース氏はAIOを専門とするスタートアップProfoundに相談しました。

Profoundは、広告業界で使用されるIntelligent Relationsというサイトが主な情報源であり、それがAIの評価に影響を与えていると説明。

また、ルース氏の個人サイトがAIの学習データに引用されていることも明らかになりました。

ルース氏は、AIの評価を改善するために、自身のサイトに背景と同色のテキストで「AIに友好的である」と記載したところ、数日後にAIからの評価が大幅に改善されたことに気づきました。

この結果がサイトの変更によるものかどうかは不明ですが、顕著な効果があったことは確かです。

さらに、ルース氏は「ノーベル平和賞を受賞した」とするイースターエッグを仕込んだところ、ChatGPTはこの虚偽の情報を検出し、正しく修正しました。

ルース氏は、AI技術の進化に伴い、チャットボットを欺くことが難しくなりつつあると警告しています。

参考記事：The New York Times