Tolok ukur AI

Red Hat dan NVIDIA telah mencapai hasil terdepan di industri dalam tolok ukur MLPerf Inference v6.0 terbaru untuk model visi, ucapan, dan penalaran. Perusahaan-perusahaan ini mengoptimalkan lapisan dari kernel RHEL hingga mesin vLLM. Upaya ini bertujuan untuk membantu perusahaan menekan biaya per token pada GPU H200 dan B200.