Новая программа под названием Caveman призвана сократить ответы ИИ и уменьшить использование токенов на 65 процентов. В то же время компании сообщают о резком росте затрат на искусственный интеллект.
Инструмент Caveman был создан для того, чтобы такие системы, как ChatGPT и Claude, ограничивались только самым необходимым. Он позволяет исключить вежливые фразы и пространные объяснения. В результате потребность в токенах для генерации текста резко снижается.
Менеджер одной из крупных промышленных групп Германии сообщил, что расходы на ИИ с начала года выросли как минимум вдвое. В связи с этим компания ввела отчеты об использовании, чтобы повысить осведомленность о расходах.
Токены стали важным производственным фактором в разработке программного обеспечения. Растущие счета вынуждают компании следить за своими бюджетами на ИИ.