قدمت ريد هات مشروعًا جديدًا مفتوح المصدر يُدعى llm-d لتحسين استنتاج الذكاء الاصطناعي التوليدي القابل للتوسع. يوسع المشروع قدرات vLLM للنشر على نطاق الإنتاج خارج الخوادم الفردية. يهدف إلى توفير منصة موحدة لعمليات نماذج اللغة الكبيرة.