За что списываются деньги в AI API и как работают лимиты
С лицевого счёта списывается стоимость запросов к моделям. Она считается по токенам: отдельно тарифицируется то, что вы отправили, отдельно — то, что модель ответила, и отдельно — работа с кэшем. Ставки по каждой модели публикует каталог, а посчитанный расход виден в кабинете, в разделе AI API.
Из чего складывается стоимость запроса
Четыре вида токенов, у каждого своя ставка за миллион:
| Вид | Что это |
|---|---|
| Обычный вход | то, что вы отправили модели впервые |
| Кэшированный вход | чтение уже сохранённого контекста, дешевле обычного входа |
| Запись в кэш | запрос, который кэш создаёт, — отдельная ставка |
| Выход | то, что модель ответила |
Две вещи, из-за которых счёт бывает больше, чем кажется по длине ответа:
- Размышления модели тарифицируются как выход. У моделей с рассуждением — например, у Claude Opus они включены по умолчанию — исходящих токенов заметно больше, чем видно по тексту ответа. Это не ошибка счёта.
- Работа с кэшем — две разные операции. Запрос, который кэш создаёт, и запрос, который его читает, стоят по-разному, хотя оба «с кэшем».
Цифр ставок в справке нет намеренно: они следуют за курсом и за ценами поставщика моделей, которые мы обновляем раз в сутки, и устарели бы к моменту, когда вы это читаете. Действующие ставки по каждой модели и множитель, из которого получена рублёвая цена, отдаёт каталог моделей — он открыт без ключа. Как из ставок собирается счёт и как самому пересчитать свой расход, разобрано в документации: Оплата и детализация.
Где посмотреть расход
«Кабинет → Компания → AI API»: сводка за 7, 30 или 90 дней, разрез по ключам и по моделям, последние запросы и выгрузка построчно в CSV — по ней удобно сверять наш отчёт со своими логами.
В выгрузке по строке на запрос и семь колонок: время, ключ, модель, входящие токены, исходящие токены, кэшированные токены и признак потокового ответа. Сумм в рублях в ней нет — расход в деньгах виден в самом кабинете. Выгрузка берёт тот же период (7, 30 или 90 дней) и те же фильтры по ключу и модели, что выбраны на экране, — до 50 000 строк.
Почему расход появляется в кабинете не сразу
Строка расхода создаётся в момент завершения запроса, а журнал мы забираем раз в несколько минут. Для потокового ответа отсчёт идёт от конца потока, а не от начала. Если запрос только что прошёл, а в кабинете его нет — подождите несколько минут.
Тел запросов и ответов в детализации нет: мы их не храним — ни в журнале, ни в выгрузке.
Чем потолок ключа отличается от остатка компании
Это два разных ограничения, и упираются в них по-разному:
- Потолок расхода ключа задаётся в рублях при выпуске или позже, в карточке ключа. Это сумма за всё время жизни ключа, а не за месяц: ключ перестаёт работать, когда потратит её, — остальные ключи компании продолжают работать. Чтобы продолжить, поднимите потолок. Потолок можно не ставить: тогда ключ ограничен только остатком на счёте.
- Остаток на лицевом счёте общий. Когда он кончается, отклоняются запросы по всем ключам сразу.
Ключ можно ещё ограничить списком моделей — тогда обращение к модели вне списка вернёт отказ. Это обычный способ отдать подрядчику недорогую модель, не открывая дорогую. Список выбирается при выпуске и у готового ключа не меняется: нужен другой набор моделей — выпустите новый ключ, а старый удалите.
Почему запросы перестали проходить
Три частые причины, их видно в кабинете на карточках состояния счёта:
- Кончились деньги на счёте. Пополните счёт — доступ ключей восстановится в течение 15 минут. Ключи при этом целы, их никто не отключал. Остаток для ключей пересчитывается раз в 15 минут, поэтому ключ может остановиться не в ту же секунду, когда кончились деньги, — небольшой перерасход спишется с ближайшего пополнения.
- Ключ упёрся в свой потолок. Поднимите потолок в карточке ключа или используйте другой ключ. О приближении к потолку мы предупреждаем заранее — письмом и сообщением в Telegram супервладельцу и владельцам компании, когда израсходовано 80 % лимита.
- Ключ отключён или удалён. Отключённый ключ отвечает
401и включается той же кнопкой; удалённый не восстанавливается — нужен новый.
Все три причины выглядят для программы одинаково — ответом 401 с текстом Invalid token: что именно случилось, видно только в кабинете. Ответ 403 с текстом token quota is not enough приходит, когда остаток ещё есть, но на конкретный запрос его не хватает. Коды ошибок и что они означают — в документации для разработчика: Ошибки.