OpenAI、AI生成テキスト検出の新技術を開発
生成AIの進化により、学生がAIを使って課題をこなす問題が浮上しています。
これに対応するため、ChatGPTの開発元であるOpenAIが、AI生成テキストを高精度で検出するツールを開発中であることが明らかになりました。
- OpenAIがAI生成文検出技術を開発中。
- テキスト透かし技術で99.9%の精度。
- 学生のAI利用対策が急務。
ウォール・ストリート・ジャーナルの報道によると、OpenAIはテキストに透かしを入れる技術を用いて、ChatGPTが作成した文章を99.9%の精度で検出できるツールを開発しています。
この技術は、ChatGPTが単語を選ぶ際に小さな変更を加えることで実現し、後で専用ツールを使って透かしを検出する仕組みです。
OpenAIは、この技術が英語を母語としない人の文章を誤検知する問題を克服するために、従来の検出技術とは異なるアプローチを採用しました。
しかし、テキスト透かし技術にも課題が残っています。
特に、悪意のある人物による改ざんや、翻訳システムを使用した場合など、透かしの検出が困難になる可能性があるとしています。
この問題について、OpenAIは慎重な姿勢を取っており、TechCrunchのインタビューで、OpenAIの広報担当者は「テキスト透かし技術は有望ですが、悪意のある人物による回避の可能性や、非英語話者に不利益をもたらすリスクがある」と述べています。
そのため、ツールの公開には慎重なアプローチが必要だと述べました。
一方で、スタンフォード大学の調査によると、2023年1月時点で約17%の学生が課題や試験にChatGPTを使用していることが判明しており、こうした問題への対策が急務となっています。
OpenAIの新技術がどのように展開されるか、今後の動向に注目が集まります。
参考記事:TechCrunch
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、朝の通勤時間に読めるメルマガを配信しています。
最新のAI情報を日本最速で受け取りたい方は、以下からご登録ください。
また、弊社紹介資料もご用意しておりますので、併せてご確認ください。