За что списываются деньги в AI API и как работают лимиты

С лицевого счёта списывается стоимость запросов к моделям. Она считается по токенам: отдельно тарифицируется то, что вы отправили, отдельно — то, что модель ответила, и отдельно — работа с кэшем. Ставки по каждой модели публикует каталог, а посчитанный расход виден в кабинете, в разделе AI API.

Из чего складывается стоимость запроса

Четыре вида токенов, у каждого своя ставка за миллион:

Вид Что это
Обычный вход то, что вы отправили модели впервые
Кешированный вход чтение уже сохранённого контекста, дешевле обычного входа
Запись в кэш запрос, который кэш создаёт, — отдельная ставка
Выход то, что модель ответила

Две вещи, из-за которых счёт бывает больше, чем кажется по длине ответа:

  • Размышления модели тарифицируются как выход. У моделей с рассуждением — например, у Claude Opus они включены по умолчанию — исходящих токенов заметно больше, чем видно по тексту ответа. Это не ошибка счёта.
  • Работа с кэшем — две разные операции. Запрос, который кэш создаёт, и запрос, который его читает, стоят по-разному, хотя оба «с кэшем».

Цифр ставок в справке нет намеренно: они следуют за курсом и устарели бы к моменту, когда вы это читаете. Действующие ставки по каждой модели и множитель, из которого получена рублёвая цена, отдаёт каталог моделей — он открыт без ключа. Как из ставок собирается счёт и как самому пересчитать свой расход, разобрано в документации: Оплата и детализация.

Где посмотреть расход

«Кабинет → Компания → AI API»: сводка за 7, 30 или 90 дней, разрез по ключам и по моделям, последние запросы и выгрузка построчно в CSV — по ней удобно сверять наш отчёт со своими логами.

Почему расход появляется в кабинете не сразу

Строка расхода создаётся в момент завершения запроса, а журнал мы забираем раз в несколько минут. Для потокового ответа отсчёт идёт от конца потока, а не от начала. Если запрос только что прошёл, а в кабинете его нет — подождите несколько минут.

Тел запросов и ответов в детализации нет: мы их не храним — ни в журнале, ни в выгрузке.

Чем потолок ключа отличается от остатка компании

Это два разных ограничения, и упираются в них по-разному:

  • Потолок расхода ключа задаётся при выпуске или позже, в карточке ключа. Ключ перестаёт работать, когда потратит эту сумму, — остальные ключи компании продолжают работать. Потолок можно не ставить: тогда ключ ограничен только остатком на счёте.
  • Остаток на лицевом счёте общий. Когда он кончается, отклоняются запросы по всем ключам сразу.

Ключ можно ещё ограничить списком моделей — тогда обращение к модели вне списка вернёт отказ. Это обычный способ отдать подрядчику недорогую модель, не открывая дорогую.

Почему запросы перестали проходить

Три частые причины, их видно в кабинете на карточках состояния счёта:

  1. Кончились деньги на счёте. Пополните счёт — потолки пересчитаются сами, в течение пятнадцати минут. Ключи при этом целы, их никто не отключал.
  2. Ключ упёрся в свой потолок. Поднимите потолок в карточке ключа или используйте другой ключ. О приближении к потолку мы предупреждаем заранее — письмом и сообщением в Telegram представителю компании, когда израсходовано 80 % лимита.
  3. Ключ отключён или удалён. Отключённый ключ отвечает 401 и включается той же кнопкой; удалённый не восстанавливается — нужен новый.

Коды ошибок и что они означают — в документации для разработчика: Ошибки.