Un nouveau programme baptisé Caveman vise à raccourcir les réponses générées par l'IA et à réduire l'utilisation de jetons de 65 pour cent. Parallèlement, les entreprises signalent une forte augmentation des coûts liés à l'intelligence artificielle.
L'outil Caveman a été conçu pour que des systèmes comme ChatGPT et Claude se limitent à l'essentiel. Il évite les formules de politesse et les explications trop longues. En conséquence, les besoins en jetons pour la génération de texte diminuent considérablement.
Un responsable d'un grand groupe industriel allemand a indiqué que les dépenses en IA avaient au moins doublé depuis le début de l'année. L'entreprise a donc mis en place des rapports d'utilisation pour accroître la sensibilisation aux coûts.
Les jetons sont devenus un facteur de production important dans le développement logiciel. La hausse des factures contraint les entreprises à exercer un contrôle plus strict sur leurs budgets consacrés à l'IA.