Как отменить streaming run в OpenAI Agents SDK: immediate и after_turn

• cancel() по умолчанию использует режим immediate.
• Immediate останавливает сразу, отменяет tasks и очищает queues.
• cancel(mode="after_turn") завершает текущий turn: LLM response, pending tool calls, session state и usage.
• After_turn останавливает до начала следующего turn.
• После cancel нужно продолжать потреблять stream_events() до завершения cancellation.

Каждый пункт проверяется отдельно. Не объединяйте доступность backend, корректность истории и качество ответа в один флаг success: это независимые слои.

Что подготовить

• отдельную тестовую базу, Redis database или временный файл;
• уникальный session_id, не совпадающий с ID реального пользователя;
• fake tool и provider stub для контроля вызовов;
• переменные окружения для ключей и строк подключения;
• журнал безопасных агрегатов и версий без содержимого переписки.

Прежде чем запускать код, определите владельца соединения и cleanup. Для hosted storage проверьте, где фактически лежат данные. Для durable state считайте payload чувствительным: он включает app context и runtime metadata.

Пошаговая настройка

1. Запустите run_streamed и начните потреблять stream_events.
2. При сигнале пользователя выберите immediate или after_turn осознанно.
3. После вызова cancel не делайте break; дочитайте async iterator.
4. С fake tool сравните: immediate не обещает завершить текущие effects, after_turn исполняет pending tool calls текущего turn.

После каждого шага записывайте наблюдаемый признак: число items, конкретный exception, наличие interruption, счётчик tool или факт завершения async iterator. Комментарий в коде не является проверкой.

Копируемый пример

import asyncio
from agents import Agent, Runner

async def main():
    agent=Agent(name="worker",instructions="Выполни задачу по шагам.")
    result=Runner.run_streamed(agent,"Тестовая задача T-781")
    async for event in result.stream_events():
        if should_stop(event):
            result.cancel(mode="after_turn")
            # Не break: продолжаем читать события до завершения отмены.
    assert result.is_complete

asyncio.run(main())

Запускайте пример в отдельном virtualenv. Все ключи и URL берите из окружения; тестовые localhost-адреса не превращайте в production-конфигурацию автоматически. Заполнители paused, original_agent и fake counters должны быть определены вашим воспроизводимым fixture.

Реалистичный вход

Во время test stream приходит пользовательский stop-сигнал после начала текущего turn.

Ожидаемый результат

After_turn корректно завершает turn и session accounting; immediate останавливает максимально быстро. Оба потока дочитываются.

Перенесите ожидание в assert. Для недетерминированного текста проверяйте сохранённый факт через model stub либо напрямую session items. Для approval проверяйте и interruptions, и execution counter.

Негативный тест

Вызовите cancel и сразу break: тест должен обнаружить незавершённую cancellation либо некорректное состояние.

Негативная проверка меняет одно условие. Ошибка подключения не равна пустой истории, новый run не равен resume, другой session_id не является потерей данных, а отсутствие второй паузы допустимо только при подтверждённом sticky decision.

Готовый prompt для ревью

Проверь конфигурацию сценария «Как отменить streaming run в OpenAI Agents SDK: immediate и after_turn». Для каждого факта найди исполняемое доказательство. Проверь ownership соединений, cleanup, секреты, session_id, число model/tool вызовов и негативный тест. Верни таблицу PASS/FAIL; если доказательства нет, ставь FAIL.

Prompt используйте после приложения кода и очищенного лога. Он не заменяет исполнение: языковая модель может назвать комментарий гарантией или пропустить неверный cleanup.

Независимая проверка

Составьте три сценария: штатный, ошибочный и пограничный. Для каждого укажите исходное состояние, действие, ожидаемый side effect и последующее чтение. Повторите тест из второго процесса, если backend заявлен как shared.

Считайте отдельно model calls, tool executions, session writes и approval interruptions. Один счётчик не описывает весь run. Для async cleanup добавьте fixture, который проверяет закрытие даже после исключения.