Red Hat ha presentado un nuevo proyecto de código abierto llamado llm-d para mejorar la inferencia de IA generativa escalable. El proyecto amplía las capacidades de vLLM para implementaciones a escala de producción más allá de servidores individuales. Tiene como objetivo proporcionar una plataforma unificada para operaciones de modelos de lenguaje grandes.