Как настроить лимиты API-ключей перед вайбкодингом?

Перед тем как дать ИИ-агенту доступ к боевому окружению, нужно ограничить его права через лимиты API-ключей: сколько запросов может сделать, сколько денег потратить, к каким эндпоинтам обращаться. Без лимитов ошибка в промпте или зацикленный агент может выжечь весь месячный бюджет за ночь. Ниже — конкретные шаги по настройке ограничений в OpenAI API, Anthropic Claude API и способы контроля в коде.

Почему лимиты важнее, чем кажется

Когда агент работает локально на тестовых данных, траты контролируются вручную: запустил — посмотрел — остановил. На продакшене агент принимает решения сам, может повторять запросы при ошибке, обрабатывать очередь задач в фоне. Если у ключа нет потолка расходов, один баг превращается в счёт на сотни долларов.

Пример из практики: агент для обработки документов зациклился на одном PDF, пытался распознать таблицу через Vision API и за 4 часа сжёг $300, пока владелец спал. Лимит в $50 на сутки остановил бы это на первых десяти запросах.

Где настраивать лимиты в OpenAI API

В личном кабинете OpenAI раздел API → Usage limits позволяет задать три типа ограничений:

• Monthly budget — сколько можно потратить за календарный месяц. Рекомендую начинать с $20–50 для тестирования агента на реальных данных.
• Rate limits — количество запросов в минуту (RPM) и токенов в минуту (TPM). Для агента, обрабатывающего заявки, разумный старт: 60 RPM, 100 000 TPM.
• Hard cap — жёсткая блокировка ключа при превышении. Включай обязательно, иначе система просто отправит счёт за перерасход.

Лимиты применяются к конкретному API-ключу. Если у тебя несколько агентов или окружений (staging, production), создавай отдельные ключи с разными лимитами. Ключ для продакшена должен иметь более щедрые пределы, но всё равно с потолком.

Как ограничить расходы в Claude API

Anthropic предоставляет контроль через Organization settings → Billing → Usage limits. Здесь можно задать:

• Monthly spending cap — верхняя граница трат за месяц. Claude API считает по токенам ввода и вывода отдельно; проверяй тарифы на текущие модели, чтобы рассчитать реалистичный потолок.
• Per-key rate limits — ограничения на ключ в запросах в минуту. Для агента, работающего с чат-ботом на сайте, 100 RPM обычно достаточно.

Claude API не блокирует ключ автоматически при превышении лимита — останавливается только выставление счёта. Чтобы агент не продолжал попытки, добавь в код обработку ошибки 429 (rate limit exceeded) с остановкой работы.

Как контролировать расходы в коде

Лимиты на стороне провайдера — первая линия защиты, но не единственная. В коде агента нужно добавить собственные проверки:

• Счётчик запросов — веди лог, сколько вызовов API сделано за сессию. Если агент превысил 100 запросов при обработке одной задачи, это сигнал о зацикливании.
• Timeout на операцию — ограничь время выполнения одной задачи. Например, обработка одного документа не должна занимать больше 2 минут; если дольше — останови и залогируй ошибку.
• Проверка баланса перед запуском — если используешь платформу с API для проверки текущего баланса (OpenAI предоставляет эндпоинт /v1/usage), запрашивай его перед началом работы агента. Если осталось меньше $5, отправь уведомление владельцу.

Пример на Python с проверкой лимита запросов:

max_requests = 50
request_count = 0
while task_queue:
    if request_count >= max_requests:
        log_error("Request limit reached, stopping agent")
        break
    response = openai.ChatCompletion.create(...)
    request_count += 1
    process_response(response)
			

Этот код остановит агента, даже если API-ключ ещё не исчерпал свой месячный лимит. Полезно для дорогих операций вроде анализа изображений или длинных контекстов.

Типичные ошибки при настройке лимитов

• Один ключ на всё — разработку, staging и production. При ошибке на тесте выгорает лимит для боевого окружения. Создавай отдельные ключи.
• Лимит только на месяц — без ограничения на сутки или час. Агент может сжечь весь месячный бюджет за одну ночь. Добавляй дневные пределы, если провайдер позволяет, или контролируй в коде.
• Нет алертов при приближении к лимиту — узнаёшь о проблеме, когда ключ уже заблокирован. Настрой уведомления на Telegram или email при достижении 80% лимита.
• Игнорирование ошибки 429 — агент продолжает попытки запросов, даже когда rate limit исчерпан. Добавь exponential backoff или полную остановку при превышении.
• Не тестируешь лимиты до запуска — сначала проверь на staging: уменьши лимит до минимального, запусти агента, убедись, что он корректно останавливается и логирует ошибку.

Как настроить алерты на превышение лимитов

OpenAI и Anthropic отправляют email-уведомления при превышении порогов, но их можно пропустить. Надёжнее — собственная система мониторинга.

Вариант 1: запрос текущего использования через API раз в час. OpenAI предоставляет эндпоинт /v1/usage для проверки расходов за период. Если потрачено больше 80% месячного лимита, отправь сообщение через RocketSMS или Telegram-бот.

Вариант 2: логирование каждого запроса агента в отдельный файл с подсчётом стоимости. Для этого нужно знать тарифы модели и считать токены в запросе и ответе. Библиотека tiktoken для OpenAI помогает посчитать токены до отправки:

import tiktoken
encoding = tiktoken.encoding_for_model("gpt-4")
tokens = len(encoding.encode(prompt))
estimated_cost = tokens * 0.00003  # цена за токен ввода для gpt-4
			

Записывай оценку в лог, суммируй за день и сравнивай с лимитом. Если приближаешься к порогу, останови агента до конца суток.

Что проверить перед запуском агента на продакшене

После настройки запусти агента на реальных данных в ограниченном режиме: обработай 10–20 задач, проверь логи, убедись, что расходы соответствуют ожиданиям. Только после этого увеличивай лимиты до рабочих значений.

Если агент работает с чувствительными данными или выполняет необратимые действия (отправка писем, изменение записей в базе), добавь второй уровень защиты: проверку защиты формы от ботов и логирование всех операций с возможностью отката.