AMDのInstinct MI300X GPUとNVIDIAのHopper H100/H200およびBlackwell B200 GPUの性能を比較する初のMLCommonsベンチマーク結果が公開された。このベンチマークは、Llama 2の70億パラメータモデルを用いたAI推論タスクに焦点を当てている。結果によると、MI300XはH100と競争力があり、コスト面でも優位性を示した。しかし、より大容量のHBMメモリを搭載したH200やB200に対しては苦戦している。AMDは年内に発表予定のMI325Xでこのギャップを埋めることを目指している。注目すべきは、GPUのメモリ容量と帯域幅が性能に大きく影響していることだ。NVIDIAのH200はH100と比べてメモリ性能を向上させることで、1.6〜1.9倍の性能向上を実現している。価格性能比では、現時点でMI300XがH100をわずかに上回っている。しかし、NVIDIAの次世代GPUであるBlackwellシリーズは、大幅な性能向上が見込まれており、AMDにとって大きな脅威となる可能性がある。この結果は、データセンターGPU市場における競争の激化を示唆している。AMDは性能向上とソフトウェア最適化に注力する必要があり、NVIDIAは高性能を維持しつつ価格戦略を慎重に検討する必要がある。今後のAI訓練ベンチマークや、より大規模なモデルでのテストにも注目が集まるだろう。ーーー引用元：https://www.nextplatform.com/2024/09/03/the-first-ai-benchmarks-pitting-amd-against-nvidia/