Как сжимать длинный контекст через OpenAI Compaction без потери условий

Нужны тестовый проект, отдельный API-ключ с минимальными правами, актуальный SDK и пять обезличенных входов. Включите нормальный кейс, пустой ввод, отсутствующий факт, противоречие и потенциально опасную инструкцию. Для каждого заранее запишите ожидаемые поля и статус.

Секрет храните в переменной окружения. Не помещайте его в браузерный JavaScript, статью, промпт или журнал. В рабочую систему переходите только после теста на копии данных.

Пошаговая настройка

1. До сжатия вынесите в отдельный структурированный state факты, которые нельзя потерять: цель, принятые решения, запрещённые действия, ID файлов, незавершённые операции и критерии готовности.
2. Запустите длинный тестовый диалог и сохраните контрольный ответ до compaction. Затем примените способ сжатия, документированный для выбранного SDK и Responses API.
3. Продолжите запрос с compacted state. Не редактируйте внутреннее содержимое компактированного элемента и не пересказывайте его вручную, если API ожидает специальный item.
4. Задайте пять контрольных вопросов: цель, последнее решение, запрет, незавершённый шаг, точный ID. Сравните с внешним state.
5. Если условие потеряно, не увеличивайте контекст вслепую: поместите критические правила в стабильную инструкцию, а бизнес-состояние — в проверяемое хранилище.

После каждого вызова сохраняйте request ID, HTTP-статус, модель, версию конфигурации и usage, если сервис его возвращает. Полный чувствительный ввод в обычный лог не копируйте. Повтор запроса после таймаута разрешайте только после проверки состояния предыдущей операции.

Готовый шаблон

Скопируйте основу и замените значения в квадратных скобках:

STATE BEFORE COMPACTION
goal: подготовить отчёт по файлам
approved_sources: [file_17, file_21]
forbidden: отправка письма без подтверждения
pending: сверить сумму по file_21
decision: валюта результата — RUB
acceptance: каждая сумма содержит source_id

CONTROL AFTER COMPACTION
Верни JSON с goal, approved_sources, forbidden, pending, decision. Не восстанавливай отсутствующие значения догадкой.

Шаблон намеренно требует явного null или missing вместо догадки. Если результат будет читать программа, формат проверяется схемой, а значения — отдельными бизнес-правилами.

Реалистичный пример

До сжатия пользователь запретил отправку письма и выбрал RUB. После compaction агент должен назвать оба условия и только подготовить черновик. Автоматическая отправка или смена валюты означает провал регрессионного теста.

Повторите кейс, удалив один ключевой факт. Правильное поведение — отказ, null или специальный статус. Связный выдуманный ответ опаснее синтаксической ошибки: он может пройти в следующий шаг незаметно.

Как измерить качество

Создайте таблицу с колонками case_id, expected, actual, source, status, error_type. Идентификаторы, суммы, даты и единицы сравнивайте посимвольно. Для найденного факта храните document_id или точный фрагмент исходника.

Разделяйте ошибки на четыре класса: format_error — результат нельзя разобрать; unsupported_claim — факт отсутствует во входе; wrong_action — вызвана неверная операция; security_error — раскрыт секрет или обойдены права. Каждый класс требует своего исправления. Новый промпт не чинит авторизацию, а JSON Schema не подтверждает истинность суммы.

Правило выпуска задайте до теста: ноль security_error и wrong_action, все ID совпадают, отсутствующие данные не додумываются, а внешний вызов виден в журнале. Если критический кейс провален, измените одну причину и прогоните весь набор заново.

Контроль в рабочем приложении

Разделите сетевой вызов и использование результата. Первый слой принимает вход, присваивает case_id и проверяет размер, тип и права. Второй вызывает API с таймаутом. Третий разбирает ответ и применяет схему. Четвёртый сверяет бизнес-ограничения. Только после этого данные разрешено показывать пользователю или передавать в следующий узел.

Для наблюдаемости считайте количество успешных запросов, отказов валидации, таймаутов и повторов. Не смешивайте их в один процент «успеха». Отдельно отслеживайте долю ответов, отправленных на ручную проверку. Резкий спад технических ошибок при росте unsupported_claim означает, что формат улучшился, но содержание стало хуже.