Как дождаться результата prediction в Replicate: sync, async и polling

Что подтверждает документация

• По умолчанию prediction создается асинхронно и ответ сразу содержит id.
• Синхронное ожидание запрашивается заголовком Prefer: wait; документированное ожидание по умолчанию — до 60 секунд.
• Конечные успешный и ошибочные статусы нужно различать, а не ждать только появления output.
• Для долгих задач документация предлагает polling или webhooks.

Объект prediction нужно считать отдельной сущностью со своим id, status, output, error и ссылками управления. Сохраняйте id сразу после создания: без него невозможно надежно выяснить, завершилась ли задача после сетевого таймаута. Не создавайте вторую prediction только потому, что клиент перестал ждать первую.

Пошаговая настройка

1. Определите один критерий успеха. Для изображения это не только наличие URL, но и ненулевой файл, декодируемый формат, ожидаемые размеры и отсутствие служебной ошибки. Для текста — конечный статус, непустая строка и проверяемая структура.
2. Создайте отдельный токен для окружения и поместите его в REPLICATE_API_TOKEN на сервере. Не передавайте постоянный секрет в браузер, мобильный пакет, query string или журнал запроса.
3. На официальной странице модели скопируйте endpoint и точную схему input. Зафиксируйте model/version рядом с тестовым набором, чтобы обновление не смешалось с изменением кода.
4. Выполните минимальный пример ниже без очереди, ORM и автоматических retry. Сохраните HTTP-код, prediction id, status, error и время каждого перехода. Содержимое prompt логируйте только после обезличивания.
5. Сравните результат с ожиданием: Цикл прекращается только на документированном конечном статусе; при succeeded доступен output, а failed, canceled и aborted превращаются в контролируемую ошибку с prediction id.
6. Проведите отрицательный тест: испорченный файл, неверное поле, просроченная подпись или искусственный сетевой обрыв — в зависимости от сценария. Система должна завершиться контролируемо и не выдать частичный результат за готовый.
7. После приемки добавьте очередь, ограниченные повторы с задержкой, метрики и алерт. Повторяйте безопасный GET; новый POST создавайте лишь когда подтверждено, что предыдущая prediction не была создана или ее повтор допустим бизнес-логикой.

Минимальный рабочий пример

import os, time, requests

headers = {"Authorization": f"Bearer {os.environ['REPLICATE_API_TOKEN']}", "Content-Type": "application/json"}
created = requests.post(
  "https://api.replicate.com/v1/models/black-forest-labs/flux-schnell/predictions",
  headers=headers, json={"input": {"prompt": "A blue paper boat on white background"}}, timeout=30).json()
pid = created["id"]
for attempt in range(30):
    p = requests.get(f"https://api.replicate.com/v1/predictions/{pid}", headers=headers, timeout=15).json()
    if p["status"] in {"succeeded", "failed", "canceled", "aborted"}: break
    time.sleep(min(2 + attempt * 0.25, 5))
else: raise TimeoutError(pid)
if p["status"] != "succeeded": raise RuntimeError({"id": pid, "status": p["status"], "error": p.get("error")})

Пример намеренно не содержит настоящего токена. Для модели, версии, hardware или имени поля используйте только актуальную страницу API. Если ответ отличается от примера, сначала сравните endpoint и schema, затем версию клиентской библиотеки, и лишь потом меняйте обработчик.

Готовый шаблон проверки с ИИ

Роль: инженер по приемке Replicate API.
Проверь сценарий: как дождаться результата prediction Replicate API.
Вход: приложенный JSON запроса, HTTP-код, объект prediction и локальные метрики.
Верни таблицу: проверка | фактическое значение | PASS/FAIL | исправление.
Не считай HTTP 200 достаточным. Не выдумывай отсутствующие поля; отмечай их как MISSING.

Такой промпт можно передать модели для первичной ревизии логов, но секреты и персональные данные предварительно удаляются. Итог PASS/FAIL рассчитывает код по явным условиям. Нейросеть не должна решать, считать ли failed успехом или можно ли проигнорировать неверную подпись.

Контрольный вход и ожидаемый результат

Контрольный вход указан в примере: короткий prompt или локальный файл с заранее известными свойствами. До вызова API сохраните SHA-256 входного файла либо точную строку prompt, идентификатор модели и схему ожидаемого результата. Это позволяет воспроизвести тест и отделить изменение модели от ошибки транспорта.

Ожидаемый результат: Цикл прекращается только на документированном конечном статусе; при succeeded доступен output, а failed, canceled и aborted превращаются в контролируемую ошибку с prediction id.

Проверьте и негативный вход. Пустой prompt, отсутствующий файл, недоступный URL или неверная подпись должны привести к понятному отказу. Не заменяйте отсутствующие поля пустыми строками: MISSING, null, пустой output и сетевой таймаут означают разные состояния и требуют разных действий.

Критерии приемки

• id сохраняется сразу после создания
• starting и processing считаются промежуточными
• есть локальный предел ожидания
• ошибочные статусы не маскируются
• повтор не создает дубликат