Как проверить Prompt Caching в OpenAI API и найти промахи кеша

Нужны тестовый проект, отдельный API-ключ с минимальными правами, актуальный SDK и пять обезличенных входов. Включите нормальный кейс, пустой ввод, отсутствующий факт, противоречие и потенциально опасную инструкцию. Для каждого заранее запишите ожидаемые поля и статус.

Секрет храните в переменной окружения. Не помещайте его в браузерный JavaScript, статью, промпт или журнал. В рабочую систему переходите только после теста на копии данных.

Пошаговая настройка

1. Соберите запрос так, чтобы неизменяемые инструкции, схема ответа и большой справочник шли первыми, а вопрос пользователя — последним. Не вставляйте дату, request_id и случайные значения в начало.
2. Отправьте контрольный запрос через Responses API и сохраните usage целиком. Это прогрев; нулевое значение cached_tokens на первом вызове не является ошибкой.
3. Повторите тот же префикс, изменив только финальный вопрос. Считайте usage.input_tokens_details.cached_tokens, а не оценивайте скорость на глаз.
4. Для негативного теста измените одно предложение в начале системной инструкции. Если число кешированных токенов уменьшилось, тест подтверждает зависимость от совпадающего префикса.
5. Верните стабильную версию, затем по одному переставляйте инструменты и документы. Так находится блок, который разрушает совпадение.

После каждого вызова сохраняйте request ID, HTTP-статус, модель, версию конфигурации и usage, если сервис его возвращает. Полный чувствительный ввод в обычный лог не копируйте. Повтор запроса после таймаута разрешайте только после проверки состояния предыдущей операции.

Готовый шаблон

Скопируйте основу и замените значения в квадратных скобках:

SYSTEM_PREFIX_VERSION=v3
Неизменные правила: отвечай только по справочнику, указывай document_id, отсутствующий факт возвращай как null.
СХЕМА: {answer:string|null, document_id:string|null, missing:boolean}
СПРАВОЧНИК: [СТАБИЛЬНЫЙ ТЕКСТ]

ПЕРЕМЕННАЯ ЧАСТЬ:
request_id=[ID ДЛЯ ЖУРНАЛА, НЕ ДОБАВЛЯТЬ В ПРЕФИКС]
Вопрос: [ВОПРОС]

Шаблон намеренно требует явного null или missing вместо догадки. Если результат будет читать программа, формат проверяется схемой, а значения — отдельными бизнес-правилами.

Реалистичный пример

Префикс содержит инструкцию и 40-страничный регламент. Первый вопрос: «Какой срок ответа по претензии?», второй: «Кто утверждает возврат?». Ожидается: второй вызов показывает ненулевой cached_tokens, ответы имеют разные факты и корректные document_id. Если префикс начинается с текущего времени, повтор может не использовать тот же кеш.

Повторите кейс, удалив один ключевой факт. Правильное поведение — отказ, null или специальный статус. Связный выдуманный ответ опаснее синтаксической ошибки: он может пройти в следующий шаг незаметно.

Как измерить качество

Создайте таблицу с колонками case_id, expected, actual, source, status, error_type. Идентификаторы, суммы, даты и единицы сравнивайте посимвольно. Для найденного факта храните document_id или точный фрагмент исходника.

Разделяйте ошибки на четыре класса: format_error — результат нельзя разобрать; unsupported_claim — факт отсутствует во входе; wrong_action — вызвана неверная операция; security_error — раскрыт секрет или обойдены права. Каждый класс требует своего исправления. Новый промпт не чинит авторизацию, а JSON Schema не подтверждает истинность суммы.

Правило выпуска задайте до теста: ноль security_error и wrong_action, все ID совпадают, отсутствующие данные не додумываются, а внешний вызов виден в журнале. Если критический кейс провален, измените одну причину и прогоните весь набор заново.

Контроль в рабочем приложении

Разделите сетевой вызов и использование результата. Первый слой принимает вход, присваивает case_id и проверяет размер, тип и права. Второй вызывает API с таймаутом. Третий разбирает ответ и применяет схему. Четвёртый сверяет бизнес-ограничения. Только после этого данные разрешено показывать пользователю или передавать в следующий узел.

Для наблюдаемости считайте количество успешных запросов, отказов валидации, таймаутов и повторов. Не смешивайте их в один процент «успеха». Отдельно отслеживайте долю ответов, отправленных на ручную проверку. Резкий спад технических ошибок при росте unsupported_claim означает, что формат улучшился, но содержание стало хуже.