Использование токенов AI-агентов увеличилось в 14 раз с февраля

Использование токенов AI-агентов увеличилось в 14 раз с февраля, что составляет примерно в 5 раз больше по сравнению с человеческими пользователями. С переходом от простого общения к агентам, выполняющим задачи, использование токенов стало ключевым показателем затрат на инфраструктуру AI. Андрисен Хоровиц сообщил об этом 21 числа в разделе "Графики недели", основываясь на данных OpenRouter. Токены представляют собой единицы текста, которые AI-модель читает и генерирует, и являются основной единицей для измерения затрат на API модели и использования инфраструктуры для вывода. Человеческие пользователи обычно используют модель в формате вопросов и ответов, в то время как AI-агенты повторяют чтение, запись и выполнение для достижения целей, что приводит к увеличению потребления токенов за счет повторного обращения к тому же контексту и продолжения состояния задачи. Эти данные отражают не абсолютный масштаб всего рынка AI, а наблюдаемые тенденции в OpenRouter. Увеличение использования агентов ставит управление затратами в число основных задач платформы, и OpenRouter внедрил функцию автоматической классификации запросов по отделам, типам задач, сложности агентов и центрам затрат. В стране распространение AI-агентов связано с проблемами инфраструктурных затрат, безопасности и контроля данных, и компании Liner и Rebellion продвигают отечественные решения AI на базе NPU.