AI倫理の危機 GPT Store監視に不備
OpenAIが提供するGPT Storeにおいて、ポリシーに違反するアプリケーションが多数存在していることが明らかになりました。
AI生成ポルノ、カンニングツール、不適切な医療・法律アドバイスなど、OpenAIの規約に反するコンテンツが簡単に見つかる状況です。
このNEWSをAIが簡単要約
- GPT Storeに違反アプリ多数存在
- AI生成ポルノやカンニングツール横行
- OpenAIの監視体制に疑問符
米Gizmodoの調査によると、9月2日時点で、プラットフォーム上でプロモーションされていた少なくとも3つのアプリがGPT Storeの規約に違反していました。
「NSFW」で検索すると、AI生成画像ジェネレーターが表示され、中には1万回以上使用されているものもあったそうです。
Gizmodoは100を超える規約違反アプリのリストをOpenAIに提出しました。
その結果、多くは削除されましたが、医療系アドバイスGPTやカンニングツールは依然として残っているとのこと。
これらのアプリの中には、ストアトップでプロモーションされ、何万回も使用されているものがあります。
OpenAIの監視体制の甘さが浮き彫りになり、ユーザーの安全性や倫理的な問題が懸念されています。
GPT Storeの健全性を保つためには、より厳格な審査と監視が必要不可欠でしょう。
参考記事：GIZMODO
生成AIを社内で活用していきたい方へ
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、朝の通勤時間に読めるメルマガを配信しています。
最新のAI情報を日本最速で受け取りたい方は、以下からご登録ください。
また、弊社紹介資料もご用意しておりますので、併せてご確認ください。
