Счёт за AI — не сюрприз,
который обнаруживают в конце месяца.

TokenGuard разворачивается как прозрачный шлюз между вашими пользователями и агентами и API провайдеров LLM. Если вы сейчас вызываете OpenAI, Anthropic, Google, Azure OpenAI или Mistral напрямую, вы указываете base URL SDK на шлюз TokenGuard — одно изменение конфигурации, без изменений логики приложения. TokenGuard выпускает синтетические API-ключи на пользователя или на агента, которые идут через шлюз; шлюз переводит их в ваши настоящие учётные данные провайдера, которые хранятся в хранилище секретов и никогда не открываются конечным пользователям или агентам. Для LangChain, LlamaIndex и других фреймворков оркестрации мы даём готовые callback-обработчики и middleware, которым не нужны изменения логики агента.

Действие применения настраивается по каждой политике бюджета: блокировать (вызов LLM возвращает ошибку), ограничить частоту (вызов ставится в очередь и ограничивается по частоте) или оповестить (вызов проходит, но владелец бюджета и администратор уведомляются сразу). Большинство команд начинают с оповещения на первом превышении и переходят к блокировке после периода разбора. Нарушения бюджета дают неизменяемую запись в журнале аудита с полным контекстом заблокированного или оповещённого вызова — кто его сделал, какая модель, сколько токенов было оценено в момент запроса и какая фактическая стоимость записана после ответа. Сбросы бюджета — явные административные действия, не автоматические: так не бывает сюрприза с обновлением бюджета в конце месяца.

Автоматический выключатель следит за скоростью затрат, а не за накопленной суммой, — и ловит неконтролируемые циклы до того, как они исчерпают месячный бюджет за часы. Если ключ пользователя или агента показывает потребление токенов выше настраиваемого кратного его скользящего baseline (по умолчанию: в 5 раз выше скользящего среднего за 7 дней внутри окна 15 минут), выключатель срабатывает: ключ приостанавливается, администратору уходит оповещение, и для восстановления нужен разбор человеком. Так ловится паттерн отказа агентных циклов, когда один неверно настроенный агент может израсходовать $50,000–$200,000 в токенах до того, как месячная проверка бюджета это поймала бы. Выключатель действует на ключ, поэтому один сорвавшийся агент не затрагивает других пользователей или команды.

TokenGuard использует вероятностный анализ сигналов, а не чтение содержимого. Сигналы включают: время запроса (вне рабочих часов), паттерн объёма запросов (устойчивые сессии высокого объёма одного пользователя, характерные для личных проектов), выбор модели (модели более высокой способности без зафиксированного делового обоснования), метаданные сессии (паттерны разнообразия запросов, несовместимые со сценариями использования по роли) и отклонение от baseline объёма. Эти сигналы складываются в оценку аномалии от 0 до 100. Оценки выше 70 помечаются для разбора человеком — они никогда не блокируются автоматически, потому что сигналы вероятностные, а не детерминированные. Разбирающий видит поддерживающие сигналы и решает: отклонить или подтвердить. Этот подход обходится без анализа содержимого, сохраняет приватность пользователя и при этом обнаруживает систематическое использование не по назначению.

Ежемесячные отчёты по отнесению затрат готовятся за расчётный период и включают: общую стоимость по пользователю, по команде, по центру затрат, по модели и по провайдеру; число запросов и среднюю стоимость запроса; тренд месяц к месяцу; крупнейших потребителей по затратам; и подробный журнал событий, который можно скачать как CSV или получить через API. Отчёты доступны в дашборде TokenGuard, и их можно поставить на автоматическую доставку финансам и руководителям команд. Модель отнесения затрат настраивается — организации могут относить по использованному API-ключу, по идентичности пользователя, переданной в заголовках запроса, или по метке проекта или центра затрат в метаданных запроса.

Да. TokenGuard доступен как полностью самостоятельное развёртывание для организаций в регулируемых отраслях, которые не могут направлять метаданные вызовов LLM через облачный продукт управления. Развёртывание on-premise работает на стандартной инфраструктуре Linux, в рантайме не требует внешних сервисов и хранит все журналы аудита, политики бюджета и события аномалий внутри вашей среды. Развёртывание поддерживается на Kubernetes, Docker Compose или на Linux на голом железе. Для организаций, которые уже используют GDPR Oversight, два продукта делят слой инфраструктуры — это уменьшает след развёртывания, когда нужны обе возможности управления.