Red Hat a introduit un nouveau projet open-source appelé llm-d pour améliorer l'inférence d'IA générative évolutive. Le projet étend les capacités de vLLM pour des déploiements à l'échelle de production au-delà des serveurs uniques. Il vise à fournir une plateforme unifiée pour les opérations de grands modèles de langage.