Как подключить OpenAI SDK к Together AI без скрытой несовместимости

Задача считается выполненной не после HTTP 200, а после проверки структуры ответа и контрольного бизнес-условия. Запишите точный model ID, endpoint, SDK, serving mode и параметры генерации. Без этой карточки удачный тест невозможно повторить после обновления модели.

Проверенные параметры

• Базовый URL — https://api.together.ai/v1, ключ читают из TOGETHER_API_KEY.
• Model ID имеет пространство имён <provider>/<model_name>; строки вроде gpt-4o возвращают 404.
• Chat, vision, tools, structured outputs, embeddings, image generation, TTS и STT поддерживаются через соответствующие методы OpenAI SDK.
• Параметры service_tier, store, metadata и prediction принимаются, но игнорируются; seed даёт best-effort, а не абсолютную детерминированность.

Не переносите настройки между serverless, batch и on-demand автоматически. Они различаются жизненным циклом, способом масштабирования и смыслом ошибок. Любой пример с <MODEL_ID>, <ACCOUNT_ID> или <SHAPE_NAME> — шаблон: значение берут из своего каталога или фактического вывода tg, а не угадывают.

Контрольный пример до внедрения

Вход: Один контрольный запрос Ответь ровно TG_OK; используемый model ID заранее подтверждён через список Together.

Ожидаемый результат: Запрос уходит на Together base URL, возвращается Together model ID и строка TG_OK; тест с OpenAI model string предсказуемо даёт 404.

Сохраните вход, очищенный JSON-ответ, HTTP-код, request ID, model ID и время выполнения. Ключ авторизации, персональные данные и закрытые документы в артефакт теста не попадают. Если задача связана с качеством модели, отделите технический успех запроса от смыслового PASS: валидный JSON может содержать неверный факт, а быстрый поток — неполный текст.

Настройка по шагам

1. Создайте отдельный API-ключ тестового проекта и передайте его через переменную TOGETHER_API_KEY. Не вставляйте ключ в Python, браузерный JavaScript, скриншоты и репозиторий.
2. Откройте актуальную карточку модели и подтвердите нужную возможность: streaming, tools, structured output, batch либо deployment shape. Поддержка одной функции не доказывает поддержку другой.
3. Зафиксируйте минимальный тест: один запрос, одна модель, один набор параметров. На первом запуске отключите автоматические retry, чтобы увидеть исходную ошибку.
4. Выполните шаблон ниже. Проверяйте не только наличие choices, но и нужные поля, finish_reason, формат данных и контрольные маркеры.
5. Добавьте отрицательный тест из раздела ошибок. Сервис должен отказать предсказуемо, а приложение — сохранить безопасную диагностику и не повторять неисправимый запрос.
6. Прогоните минимум 20–50 обезличенных примеров реального распределения: короткие и длинные входы, кириллицу, пустые значения, граничные числа и ожидаемые отказы.
7. Только после этого включайте retry, concurrency, кэш или масштабирование. Меняйте по одному фактору и сравнивайте с тем же baseline.

Рабочий шаблон

from openai import OpenAI
import os
c=OpenAI(api_key=os.environ['TOGETHER_API_KEY'],base_url='https://api.together.ai/v1')
r=c.chat.completions.create(model='MiniMaxAI/MiniMax-M3',messages=[{'role':'user','content':'Ответь ровно TG_OK'}],temperature=0)
assert r.choices[0].message.content.strip() == 'TG_OK'

Команда иллюстрирует проверяемый контракт, а не готовый production-сервис. Добавьте timeout, централизованную маскировку секретов, ограничение размера входа и request ID. Для операций, создающих ресурсы, сначала выводите совместимые варианты и сохраняйте возвращённый resource name.

Готовый промпт для теста

Выполни только одну задачу на входных данных ниже.
Не добавляй факты, которых нет во входе.
Если обязательного значения нет, верни ошибку MISSING_FIELD.
Формат ответа соблюдай буквально и не добавляй Markdown.

Вход: {CONTROL_INPUT}
Ожидаемые контрольные маркеры: {EXPECTED_MARKERS}

Этот промпт полезен как воспроизводимый fixture. Он не заменяет response_format, JSON Schema, серверную валидацию аргументов или проверку прав. Если контракт должен быть строгим, его обеспечивает код, а не обещание модели.

Как проверить результат

• base_url записан
• model ID существует
• ответ совпал
• unsupported метод протестирован
• ключ не попал в лог