Cuantización

Una evaluación independiente en hardware estándar muestra que los modelos de lenguaje grandes pueden ofrecer un rendimiento útil sin una GPU. Las pruebas se centraron en la velocidad y la practicidad para tareas cotidianas.