Как считать токены в Gemini API до запроса и после ответа

Нужны тестовый проект, отдельный API-ключ с минимальными правами, актуальный SDK и пять обезличенных входов. Включите нормальный кейс, пустой ввод, отсутствующий факт, противоречие и потенциально опасную инструкцию. Для каждого заранее запишите ожидаемые поля и статус.

Секрет храните в переменной окружения. Не помещайте его в браузерный JavaScript, статью, промпт или журнал. В рабочую систему переходите только после теста на копии данных.

Пошаговая настройка

1. Соберите именно будущий contents: системные правила, историю, текущий вопрос и ссылки на файлы. Подсчёт одного текста вопроса бесполезен, если в запрос уйдёт весь диалог.
2. Вызовите client.models.countTokens с тем же model id, который пойдёт в генерацию. Сохраните totalTokens и версию сборщика контекста.
3. Сравните число с вашим внутренним бюджетом, оставив место для результата и служебных данных. Не зашивайте публичный лимит модели в код без конфигурации.
4. Если бюджет превышен, сначала удалите дубли, затем нерелевантную историю, затем замените документы на выбранные фрагменты. После каждого шага считайте снова.
5. После generateContent сравните предварительный расчёт с usage metadata и расследуйте устойчивое расхождение.

После каждого вызова сохраняйте request ID, HTTP-статус, модель, версию конфигурации и usage, если сервис его возвращает. Полный чувствительный ввод в обычный лог не копируйте. Повтор запроса после таймаута разрешайте только после проверки состояния предыдущей операции.

Готовый шаблон

Скопируйте основу и замените значения в квадратных скобках:

CONTEXT_BUDGET_CHECK
model=[MODEL_ID]
system=[SYSTEM]
history=[MESSAGES]
files=[FILE URIS]
question=[QUESTION]
decision: send | trim_history | retrieve_chunks | reject
log: total_tokens_before, action, total_tokens_after, response_usage

Шаблон намеренно требует явного null или missing вместо догадки. Если результат будет читать программа, формат проверяется схемой, а значения — отдельными бизнес-правилами.

Реалистичный пример

Вход содержит 60 сообщений и PDF. Счётчик показывает превышение внутреннего бюджета. Процесс оставляет последние 8 сообщений и три найденных фрагмента PDF, повторно считает и только затем отправляет. Простое обрезание строки по символам считается ошибкой.

Повторите кейс, удалив один ключевой факт. Правильное поведение — отказ, null или специальный статус. Связный выдуманный ответ опаснее синтаксической ошибки: он может пройти в следующий шаг незаметно.

Как измерить качество

Создайте таблицу с колонками case_id, expected, actual, source, status, error_type. Идентификаторы, суммы, даты и единицы сравнивайте посимвольно. Для найденного факта храните document_id или точный фрагмент исходника.

Разделяйте ошибки на четыре класса: format_error — результат нельзя разобрать; unsupported_claim — факт отсутствует во входе; wrong_action — вызвана неверная операция; security_error — раскрыт секрет или обойдены права. Каждый класс требует своего исправления. Новый промпт не чинит авторизацию, а JSON Schema не подтверждает истинность суммы.

Правило выпуска задайте до теста: ноль security_error и wrong_action, все ID совпадают, отсутствующие данные не додумываются, а внешний вызов виден в журнале. Если критический кейс провален, измените одну причину и прогоните весь набор заново.

Контроль в рабочем приложении

Разделите сетевой вызов и использование результата. Первый слой принимает вход, присваивает case_id и проверяет размер, тип и права. Второй вызывает API с таймаутом. Третий разбирает ответ и применяет схему. Четвёртый сверяет бизнес-ограничения. Только после этого данные разрешено показывать пользователю или передавать в следующий узел.

Для наблюдаемости считайте количество успешных запросов, отказов валидации, таймаутов и повторов. Не смешивайте их в один процент «успеха». Отдельно отслеживайте долю ответов, отправленных на ручную проверку. Резкий спад технических ошибок при росте unsupported_claim означает, что формат улучшился, но содержание стало хуже.

В журнал результата кладите hash входа, а не чувствительный текст; model id; версию промпта; HTTP-статус; request ID; длительность; тип ошибки и решение валидатора. Значение API-ключа, персональные данные и полный документ туда не попадают. Доступ к журналу должен быть уже, чем доступ к пользовательскому интерфейсу.