Nvidia次世代GPU「Blackwell」でAI推論性能4倍に
MLCommonsは最新のMLPerf推論結果を発表し、生成AIの新ベンチマークとNvidiaの次世代GPU「Blackwell」の初の検証結果を公開しました。
このNEWSをAIが簡単要約
- MLCommonsが最新のMLPerf結果を発表。
- NvidiaのBlackwell GPUで性能4倍向上。
- MoEアプローチを新たに評価開始。
MLCommonsは、AIのトレーニングと推論のためのベンチマークを管理する組織であり、今回の結果は22組織から提出された964のパフォーマンスデータを基にしています。
このベンチマークは、企業がAIインフラへの投資判断を行う上で重要な指標となります。
今回初めて、専門家混合（MoE）アプローチを評価するベンチマークが導入され、NvidiaのBlackwell GPUが大幅な性能向上を示しました。
特に生成AIの分野で、前世代と比較してGPUあたり4倍の性能向上が確認されました。
また、Nvidiaは既存のHopper GPUについてもソフトウェアの最適化により、最大27％の性能向上を達成しています。
これにより、AI推論における性能向上が業界全体に大きな影響を与えることが期待されます。
参考記事：ML Commons
生成AIを社内で活用していきたい方へ
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、朝の通勤時間に読めるメルマガを配信しています。
最新のAI情報を日本最速で受け取りたい方は、以下からご登録ください。
また、弊社紹介資料もご用意しておりますので、併せてご確認ください。
