قدمت ريد هات مشروعًا جديدًا مفتوح المصدر يُدعى llm-d لتحسين استنتاج الذكاء الاصطناعي التوليدي القابل للتوسع. يوسع المشروع قدرات vLLM للنشر على نطاق الإنتاج خارج الخوادم الفردية. يهدف إلى توفير منصة موحدة لعمليات نماذج اللغة الكبيرة.

تفاصيل المشروع

يعزز llm-d قوة vLLM للتعامل مع بيئات الخوادم المتعددة، مما يتيح أعباء عمل ذكاء اصطناعي فعالة.

الفوائد

• يدعم قابلية النقل في السحابة الهجينة.
• يتكامل مع منصات مثل OpenShift وRHEL.
• يركز على تبسيط عمليات الذكاء الاصطناعي للشركات.

يعكس هذا الإطلاق جهود ريد هات المستمرة في ابتكار الذكاء الاصطناعي من خلال المساهمات مفتوحة المصدر.