Гайд · TNWS AI

Как проверить raw_responses в OpenAI Agents SDK без утечки данных

6 мин

Считаем реальные модельные ответы RunResult, извлекаем только безопасные идентификаторы и не сохраняем полный raw payload в production-лог.

Задача и критерий готовности

Практическая задача — диагностировать число модельных обращений текущего run и извлечь минимальную техническую информацию, не выгружая полный сырой ответ с пользовательскими данными. Готовность подтверждается программным тестом, а не впечатлением от текста. Для каждого сценария ниже заданы вход, ожидаемый наблюдаемый признак и негативная проверка.

Контракт сверён 12 сентября 2026 года по официальной документации OpenAI Agents SDK. Цены, тарифы, региональная доступность и неподтверждённые лимиты не используются: они не нужны для выполнения задачи.

Подтверждённые факты

  • raw_responses — список ModelResponse, полученных от модели в текущем запуске.
  • Один agent run может содержать несколько model responses из-за tools или handoffs.
  • last_response_id предоставляет ID последнего ответа отдельно и может быть None.
  • Полный raw response нельзя безусловно считать безопасным для журналирования.
  • Список model responses не равен списку tool executions.

Эти пункты задают границу решения. Не расширяйте их предположениями: наличие поля не гарантирует истинность содержимого, HTTP 200 не подтверждает бизнес-состояние, а комментарий в коде не заменяет assert.

Подготовка стенда

  • Зафиксируйте версию SDK, Ollama и точное имя тестовой модели.
  • Используйте fake tool или provider stub для сценариев с побочными эффектами.
  • Удалите токены, персональные данные, реальные счета и внутренние пути.
  • Добавьте счётчики model calls и tool executions.
  • Настройте завершение процесса с ошибкой при несовпадении контракта.

Тестовый ввод должен быть небольшим, но реалистичным. Идентификаторы T-781 и INV-781 в статье вымышлены. Для длинного текста создавайте синтетическую строку без копирования пользовательских документов.

Пошаговые действия

  1. Используйте model stub с заранее известным числом ответов.
  2. Проверьте длину raw_responses и last_response_id, но не печатайте объект целиком.
  3. Сохраните только allowlist полей: число ответов, доступность ID и внутренний correlation id вашего запроса.
  4. Добавьте редактирование или полный запрет сырого payload в production logger.

После каждого действия сохраняйте минимальное доказательство: класс объекта, длину списка, status code, обязательное поле JSON или порядок событий. Полный prompt и raw payload в журнал не нужны.

Копируемый пример

Сохраните пример как отдельный файл языка python. Значения в угловых скобках — заполнители; их нельзя выдавать за реальные digest или идентификаторы.

from agents import Agent, Runner

agent = Agent(name="analyst", instructions="Ответь кратко и не вызывай tools.")
result = Runner.run_sync(agent, "Классифицируй обращение T-781")
summary = {
    "model_response_count": len(result.raw_responses),
    "last_response_id": result.last_response_id,
}
assert summary["model_response_count"] >= 1
print(summary)  # Не печатаем result.raw_responses целиком.

Python запускайте в virtualenv проекта, JavaScript — как .mjs в Node.js с fetch. Не смешивайте глобальную и проектную версии. Если импорт отсутствует, сначала проверьте установленную версию, а не подбирайте похожий API.

Реалистичный вход

Вход: обезличенный тикет T-781. В unit-тесте provider stub настроен вернуть один ModelResponse с тестовым ID.

Ожидаемый результат

Счётчик равен единице, ID совпадает с тестовым provider-ответом. В журнале нет prompt, полного response body, tool arguments и персональных данных.

Ожидание перенесите в assert или throw. Если текст модели недетерминирован, сравнивайте структурный инвариант. Если API возвращает массив, проверяйте число элементов и форму каждого.

Негативная проверка

Настройте stub на два модельных хода и убедитесь, что счётчик стал 2. Если код всегда пишет 1 или берёт только последний объект, аудит неполный.

Негативный тест должен ломать ровно одно условие. Сетевая ошибка не равна 404, пустой список не равен PASS, новый запуск не равен resume, а локально созданный UUID не равен response ID провайдера.

Готовый prompt для ревью

Проверь логирование raw_responses: перечисли сохраняемые поля, найди prompt, content, tool arguments и PII. Всё, что не входит в allowlist, пометь к удалению.

Верни таблицу: условие, доказательство из кода или очищенного лога, PASS/FAIL, минимальное исправление. Если доказательства нет — FAIL. Не додумывай версии, статусы и результаты.

Prompt помогает найти пропуски, но не заменяет исполнение. Вручную проверьте каждую ссылку ревьюера на код: комментарий может быть ошибочно принят за работающую защиту.

Независимая проверка

Составьте матрицу из штатного, ошибочного и пограничного входа. Для каждой строки укажите ожидаемую ветку, наблюдаемый признак и фактический результат. Повторите тест дважды, чтобы обнаружить кеш, старое состояние или двойной side effect.

Для agent run отдельно считайте model responses, tools и RunItem: это разные сущности. Для Ollama проверяйте HTTP и тело. Если операция изменяет модель или индекс, после неё используйте read-only endpoint или схему хранилища как второе доказательство.

В CI сохраняйте exit code, версии и безопасные агрегаты. Не сохраняйте полный raw response, словарь tokenizer, пользовательский prompt или tool arguments без отдельной политики редактирования.

Типичные ошибки

Пустой список принимают за успех

Конструкции вроде all([]) истинны. Если ожидается конкретный guardrail или embedding, сначала проверьте количество элементов, затем их свойства.

Логируют всё для удобства

Raw responses, arguments и verbose model_info могут быть большими или чувствительными. Создайте allowlist полей и сохраняйте только агрегаты, нужные для расследования.

Смешивают идентификаторы

Response ID, trace ID, tool call ID, model tag и SHA-256 отвечают на разные вопросы. Храните их в отдельных колонках и не генерируйте подмену для отсутствующего значения.

Не проверяют версию

Поведение после обновления может измениться. Версия и точное имя модели должны быть частью воспроизводимого отчёта, особенно для snapshot-тестов и tokenizer-данных.

Чек-лист финальной проверки

  • Тема, title и slug уникальны.
  • API и поля сверены по первоисточнику 12 сентября 2026 года.
  • Есть точный вход и программируемый ожидаемый результат.
  • Негативный тест активирует нужную противоположную ветку.
  • Секреты, PII и реальные реквизиты исключены.
  • Счётчики разделяют model, tool и item events.
  • Проверяется форма массива и каждый элемент.
  • Полный raw или verbose payload не уходит в журнал.
  • Повторный запуск не создаёт ложный успех.
  • Ограничения не заменены выдуманными метриками.

Ограничения

Этот материал проверяет один технический контракт, но не точность модели, безопасность всей системы и не производительность вашего сервера. Конкретные пределы контекста, поддерживаемые dimensions, размеры и скорость зависят от модели и окружения; их измеряют на собственном стенде.

Approval не заменяет авторизацию, typed output не гарантирует истинность, release ссылок не обещает мгновенное падение RSS, а seed не гарантирует одинаковый ответ после смены модели. Такие границы должны оставаться явными в рабочей документации.

FAQ

Почему нет универсальных чисел?

Потому что они зависят от версии и модели. Используйте фактический ответ вашего стенда и фиксируйте дату измерения.

Достаточно ли HTTP 200?

Нет. Проверяйте контрактный status, обязательные поля и при необходимости независимое состояние.

Можно ли доверить проверку нейросети?

Она полезна для ревью, но PASS выставляет исполняемый тест или проверенный ответ API.

Что сохранять в отчёте?

Версии, безопасные идентификаторы, агрегаты, exit code и результат каждого assert — без секретов и полного пользовательского содержимого.

Первоисточник

Материал подготовлен самостоятельно; примеры не выдают синтетические данные за результаты реального бенчмарка.

Читайте также

Комментарии

Пока тихо. Скажите первое слово