OpenAIとAnthropic、AI安全性研究でNISTと協力

米国国立標準技術研究所（NIST）傘下のAIセーフティ研究所は、OpenAIとAnthropicと協定を締結し、AIモデルの安全性向上に向けた共同研究を開始しました。

この協定により、両社は新たなAIモデルを公開前後に研究所へ提供し、安全性評価を実施します。

この取り組みは、米国が責任あるAI開発の基準を策定する上で重要な一歩とされ、同研究所のエリザベス・ケリー所長は「技術的な協力を通じて、AIの安全性向上に貢献できることを期待している」と述べました。

OpenAIのジェイソン・クウォン最高戦略責任者は、「AIモデルの安全性に関するベストプラクティスを共に策定することを楽しみにしている」との声明を発表。

一方、Anthropicの共同創設者ジャック・クラークは、「米国AIセーフティ研究所の専門知識を活用し、モデルのリスクを特定・軽減する能力を強化したい」と述べ、協力の意義を強調しました。

なお、この協定は法的拘束力がない自主的な取り組みであり、NISTは提供されたモデルに対して罰則を科すことはできませんが、AIの安全な開発と使用の促進に役立つとしています。

AI業界関係者からは、この協定が「正しい方向への一歩」として歓迎される一方で、実行に移す必要性が指摘されています。

参考記事：NIST