OpenAIとAnthropicがAIの安全性確保へ
このNEWSをAIが簡単要約
- OpenAIが安全セキュリティ委員会を新設
- Anthropicが安全性特化チーム立ち上げ
- AI安全性確保が両社の重要課題
OpenAIの元安全責任者が、Anthropicに移籍し、新たな「スーパーアライメント」チームを率いることになりました。Anthropicは、スケーラブルな監視、弱い一般化から強い一般化への移行、自動化されたアライメント研究に取り組む予定です。
一方、OpenAIの取締役会は、Sam Altman最高経営責任者(CEO)を議長とする「安全・セキュリティ委員会」を設立しました。 この委員会は、OpenAIのプロジェクトや運営における重要な安全保障上の決定について、取締役会に助言を行う役割を担います。
この動きは、OpenAIとAnthropicの両社が、人工知能(AI)の安全性と信頼性の確保に向けた取り組みを強化していることを示しており、安全性と信頼性の確保が課題となっていることがわかります。
参考記事：TechCrunch、OpenAI
生成AIを社内で活用していきたい方へ
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、朝の通勤時間に読めるメルマガを配信しています。
最新のAI情報を日本最速で受け取りたい方は、以下からご登録ください。
また、弊社紹介資料もご用意しておりますので、併せてご確認ください。
