معايير تقييم أداء الذكاء الاصطناعي

حققت شركتا ريد هات وNVIDIA نتائج رائدة على مستوى القطاع في أحدث اختبارات قياس الأداء MLPerf Inference v6.0 لنماذج الرؤية الحاسوبية، ومعالجة الكلام، ونماذج الاستدلال. وقد عملت الشركتان على تحسين الطبقات بدءاً من نواة RHEL وصولاً إلى محرك vLLM، حيث يهدف هذا العمل إلى مساعدة المؤسسات على خفض تكلفة الرمز المميز (token) عند استخدام وحدات معالجة الرسومات H200 وB200.