Quantização

Uma avaliação independente em hardware padrão mostra que grandes modelos de linguagem podem oferecer um desempenho útil sem uma GPU. Os testes focaram na velocidade e praticidade para tarefas do dia a dia.