AI時代のデータセンターに求められる新たなチップ技術

データセンターは、NetflixやGoogleなど大手企業がデジタルサービスを提供するための基盤となっています。

近年、AIワークロードの需要が増加する中、従来のCPU中心のサーバーは、専用チップや「コプロセッサ」の統合によって強化されています。

これらのコプロセッサは、サーバーの計算能力を高めることで、AIトレーニングや推論、データベースの高速化などの負荷に対応できるようにするものです。

特にNvidiaのGPUは、高速で膨大なデータを処理できるため、コプロセッサとして主流となっています。

Futurum Groupの調査によれば、昨年、AIユースケースで使用されたコプロセッサの74%がGPUでした。

しかし、GPUの高性能と引き換えに、コストが高いことが課題です。

例えば、NvidiaのGB200スーパーチップを搭載したサーバーは、数百万ドルの費用がかかるとされています。

一方で、多くの企業はコスト効率やスケーラビリティを重視し、低〜中程度のAIワークロードに対応する新しい技術の導入を模索しています。

AIモデルは成熟段階にあり、推論や特定のワークロードへの対応が求められており、これに応じて、チップメーカーやスタートアップは専用のAIプロセッサやアクセラレータを開発し、新たな市場を切り開きました。

AIアクセラレータは、ASIC、FPGA、NPUなどの技術を活用し、特定のAI機能に特化しており、ASICは特定のタスクに最適化され、FPGAは後から再構成可能、NPUはAI/MLワークロードの推論やトレーニングに特化しています。

これらのアクセラレータは、場合によってはGPUよりも効率的にパフォーマンスを発揮することができ、企業のニーズに応じた柔軟な選択肢となっています。

アクセラレータ選びにおいては、ワークロードの規模や種類、コストや可用性に基づいて慎重な検討が必要です。

専門家は、実際のワークロードをベンチマークし、価格とパフォーマンスのバランスを確認することを推奨しています。

特に高額なトレーニングジョブにおいて、事前の調査は時間とコストの大幅な節約に繋がります。

参考記事：Venture Beat