Навигация

MOD-AI-USAGE — Учёт расхода на ИИ и бюджет

Лицензия: Бесплатный, входит в базовую поставку ядра

Модуль проксирует запросы к LLM-шлюзу, записывает событие расхода по каждому вызову и ограничивает месячный бюджет на ИИ. Весь LLM-трафик интерфейса идёт через модуль; прямой маршрут к шлюзу закрыт, иначе в обход уходили бы не только учёт и бюджет, но и проверка персональных данных в промпте.

Как это устроено

  • Каждый вызов записывается с моделью, числом токенов и стоимостью — витрина расхода строится по этим событиям.
  • Счётчик расхода хранится в базе с атомарным инкрементом, а не в памяти процесса: при нескольких репликах память вела бы отдельный бюджет в каждой.
  • Проверка бюджета — до похода в модель. Исчерпанный бюджет отвечает отказом с указанием причины и уровня (инсталляция или сотрудник).
  • Нечитаемый счётчик расхода пропускает запрос и пишет ошибку «учёт слеп»: гасится исчерпанный бюджет, а не сбой учёта.
  • Период — календарный месяц, он же период биллинга.

Настройки модуля

НастройкаНазначение
Месячный потолок инсталляцииПредел расхода на ИИ по всей инсталляции; 0 — без лимита
Месячный потолок сотрудникаПредел расхода на каждого сотрудника; 0 — без лимита

Честное следствие

Проверяется уже израсходованное, а не прогноз: фактическая стоимость вызова известна только из ответа модели, поэтому последний вызов месяца может слегка перевалить за лимит.

Связанные модули

  • MOD-ASSISTANT — ИИ-ассистент, основной источник расхода
  • MOD-PII — защита персональных данных на том же пути промпта
Открыть чат-бот