AIベンチマーク

Red HatとNVIDIAは、MLPerf Inference v6.0の最新ベンチマークにおいて、画像認識、音声認識、推論モデルの各分野で業界トップクラスの成果を達成しました。両社はRHELカーネルからvLLMエンジンに至るまでの階層で最適化を実施しており、この取り組みは企業がH200およびB200 GPUを使用する際のトークンあたりのコスト削減を支援することを目的としています。