Один из сотрудников компании Microsoft потратил около 28 000 долларов на ИИ-инструменты всего за 28 дней. Расход обнаружили после появления во внутренней таблице компании столбца с данными об использовании ИИ. История показала, насколько сильно могут отличаться расходы на вычисления.
Данные добровольно предоставили около 350 американских сотрудников Microsoft. Их средние расходы составили примерно 300 долларов в месяц, но у отдельных работников суммы оказались значительно выше. В подразделении CoreAI медианный показатель достиг 975 долларов, а максимальные расходы дошли до 16 000 долларов. В Customer and Partner Solutions был зафиксирован самый крупный счёт в 28 000 долларов.
Причиной таких расходов стал токенмаксинг. Сотрудники увеличивали объём запросов, использовали большие контекстные окна и автоматизировали обращения к ИИ, чтобы повысить показатели использования. Такая практика появилась после того, как Microsoft активно призывала работников применять ИИ в повседневных задачах.
Теперь компания намерена внимательнее следить за расходами на токены и выявлять сотрудников с необычно высоким потреблением. Руководство также призывает ориентироваться на пользу от ИИ, а не на количество использованных вычислительных ресурсов.
Ситуация показывает проблему, с которой сталкиваются компании после массового внедрения ИИ. Если сотрудников стимулируют пользоваться такими инструментами без понятных финансовых ограничений, расходы могут быстро выйти из-под контроля. Особенно это заметно в программировании, где большие запросы к ИИ способны значительно увеличить потребление токенов.
Источник: trashbox.ru