OpenAI、AI生成テキスト検出の新技術を開発

生成AIの進化により、学生がAIを使って課題をこなす問題が浮上しています。

これに対応するため、ChatGPTの開発元であるOpenAIが、AI生成テキストを高精度で検出するツールを開発中であることが明らかになりました。

ウォール・ストリート・ジャーナルの報道によると、OpenAIはテキストに透かしを入れる技術を用いて、ChatGPTが作成した文章を99.9％の精度で検出できるツールを開発しています。

この技術は、ChatGPTが単語を選ぶ際に小さな変更を加えることで実現し、後で専用ツールを使って透かしを検出する仕組みです。

OpenAIは、この技術が英語を母語としない人の文章を誤検知する問題を克服するために、従来の検出技術とは異なるアプローチを採用しました。

しかし、テキスト透かし技術にも課題が残っています。

特に、悪意のある人物による改ざんや、翻訳システムを使用した場合など、透かしの検出が困難になる可能性があるとしています。

この問題について、OpenAIは慎重な姿勢を取っており、TechCrunchのインタビューで、OpenAIの広報担当者は「テキスト透かし技術は有望ですが、悪意のある人物による回避の可能性や、非英語話者に不利益をもたらすリスクがある」と述べています。

そのため、ツールの公開には慎重なアプローチが必要だと述べました。

一方で、スタンフォード大学の調査によると、2023年1月時点で約17％の学生が課題や試験にChatGPTを使用していることが判明しており、こうした問題への対策が急務となっています。

OpenAIの新技術がどのように展開されるか、今後の動向に注目が集まります。

参考記事：TechCrunch