Support us

Компании упираются в «стену расходов» на ИИ. Как её преодолеть

Расходы на использование ИИ быстро растут, а многие финансовые директора не понимают, какие сотрудники, продукты и ИИ-агенты потребляют больше всего токенов. В результате при масштабировании технологии компании сталкиваются с неожиданно высокими счетами.

Оставить комментарий
Компании упираются в «стену расходов» на ИИ. Как её преодолеть

Расходы на использование ИИ быстро растут, а многие финансовые директора не понимают, какие сотрудники, продукты и ИИ-агенты потребляют больше всего токенов. В результате при масштабировании технологии компании сталкиваются с неожиданно высокими счетами.

«Затраты на токены для облачного кода стремительно растут — я постоянно обсуждаю это с финансовыми директорами. Клиенты готовы масштабировать ИИ, но затем упираются в неожиданную стену расходов», — рассказала Fortune директор Accenture по ИИ и данным Лань Гуань.

По словам эксперта, финансовые директора крупных компаний зачастую видят только общий счет за облачные сервисы. При этом они не знают, кто использует токены, какие подразделения создают ИИ-агентов и на какие продукты приходится основная часть расходов.

В качестве примера она привела ретейлера, который запустил рекомендательную систему на базе ИИ в нескольких пилотных магазинах. Продажи выросли, однако ежемесячный счет за облачные сервисы достиг нескольких миллионов долларов — главным образом из-за потребления токенов. «Рост продаж был, но такой структуры расходов никто не ожидал», — отметила Гуань.

В Accenture предлагают компаниям внедрять «токеномику» — систему, которая связывает расходы на ИИ с полученной бизнес-ценностью. Каждый запрос, ответ и действие автономного агента требует токенов, поэтому по мере распространения ИИ их потребление может вырасти с тысяч до миллионов.

Согласно опросу Accenture, только 23% руководителей высшего звена заявили, что ИИ уже приносит устойчивую пользу всей организации. При этом, по данным Goldman Sachs, мировые расходы на технологию в 2026 году могут превысить $800 миллиардов.

Сама Accenture обрабатывает на одной из внутренних платформ около 8,7 триллиона токенов в неделю. Чтобы снизить расходы, компания разработала систему AI Token Navigator. Она направляет запросы к разным моделям в зависимости от сложности и важности задачи: передовым, более простым или системам с открытыми весами.

Anthropic настроила против себя Кремниевую долину: партнёры боятся потерять клиентов
Anthropic настроила против себя Кремниевую долину: партнёры боятся потерять клиентов
По теме
Anthropic настроила против себя Кремниевую долину: партнёры боятся потерять клиентов

По оценке Accenture, только 10–20% корпоративных задач требуют возможностей наиболее мощных моделей. Распределение остальных запросов между более дешевыми системами позволяет сократить расходы примерно в шесть раз по сравнению с использованием только передовых моделей.

Гуань предложила финансовым директорам трехэтапный подход. Сначала компаниям необходимо определить, кто и для каких задач расходует токены. Затем — подобрать для каждой задачи подходящую модель и устранить неэффективные сценарии. После этого контроль расходов следует сделать постоянной частью управления ИИ.

Во время одного внутреннего исследования Accenture выяснила, что использование отдельного ИИ-инструмента за десять недель выросло в 113 раз. При этом на 19% пользователей приходилось около 80% расходов.

Однако одного технического контроля недостаточно. По словам спикера, по мере удешевления и распространения ИИ сотрудники начинают использовать его чаще и по привычке выбирают самые мощные и дорогие модели даже для простых задач. «Если умножить такое поведение на всю компанию, расходы незаметно раздуваются», — объяснила она.

Управлять затратами на ИИ должны совместно финансовые, технические подразделения и специалисты по кибербезопасности. «Масштабирование ИИ необязательно должно приводить к неконтролируемым расходам. Но для этого вокруг технологии необходимо выстроить систему управления», — заключила Гуань.

Microsoft решила агрессивнее конкурировать с OpenAI и Anthropic
Microsoft решила агрессивнее конкурировать с OpenAI и Anthropic
По теме
Microsoft решила агрессивнее конкурировать с OpenAI и Anthropic
Разработчики ИИ не хотят замедляться и просят США создать «тормоз» для гонки технологий
Разработчики ИИ не хотят замедляться и просят США создать «тормоз» для гонки технологий
По теме
Разработчики ИИ не хотят замедляться и просят США создать «тормоз» для гонки технологий
А разговоров-то было: ИИ находит тысячи уязвимостей но хакеры почти не используют их
А разговоров-то было: ИИ находит тысячи уязвимостей, но хакеры почти не используют их 
По теме
А разговоров-то было: ИИ находит тысячи уязвимостей, но хакеры почти не используют их
Читайте также
Блогеров начали «отменять» за рекламу и использование ИИ
Блогеров начали «отменять» за рекламу и использование ИИ
Блогеров начали «отменять» за рекламу и использование ИИ
Anthropic изменит лимиты Claude Code: формально +25%, фактически -17%
Anthropic изменит лимиты Claude Code: формально +25%, фактически -17%
Anthropic изменит лимиты Claude Code: формально +25%, фактически -17%
ИИ всё чаще выходит из-под контроля: за месяц число инцидентов удвоилось
ИИ всё чаще выходит из-под контроля: за месяц число инцидентов удвоилось
ИИ всё чаще выходит из-под контроля: за месяц число инцидентов удвоилось
Бизнесы теперь хвастаются, что не используют ИИ
Бизнесы теперь хвастаются, что не используют ИИ
Бизнесы теперь хвастаются, что не используют ИИ

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.