Et nyt program kaldet Caveman har til formål at forkorte AI-svar og reducere token-forbruget med 65 procent. Samtidig rapporterer virksomheder om kraftigt stigende omkostninger til kunstig intelligens.
Caveman-værktøjet er skabt for at få systemer som ChatGPT og Claude til at begrænse sig til det væsentlige. Det undgår høflighedsfraser og lange forklaringer. Som følge heraf falder token-behovet til tekstgenerering markant.
En leder i en stor tysk industrikoncern oplyste, at udgifterne til AI mindst var fordoblet siden årets begyndelse. Virksomheden har derfor indført forbrugsrapporter for at skærpe opmærksomheden på omkostningerne.
Tokens er blevet en vigtig produktionsfaktor i softwareudvikling. Stigende regninger tvinger virksomheder til at bevare overblikket over deres AI-budgetter.