Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как развернуть LoRA-модель в Fireworks AI: live merge или multi-LoRA
Выбор live merge и multi-LoRA, обязательный on-demand deployment, BF16 shape для addons, контроль base model и A/B-проверка адаптера.
Как настроить tool calling в Fireworks AI и не выполнять неверные аргументы
JSON Schema инструмента, tool_choice, двухшаговый цикл вызова функции и обязательная серверная валидация аргументов на Fireworks AI.
Как подключить OpenAI SDK к Fireworks AI и проверить первый ответ
Практический запуск Fireworks через OpenAI Python SDK: правильный base_url, переменная ключа, полный идентификатор модели и контроль ответа.
Как получить строгий JSON по JSON Schema в Fireworks AI
Structured Outputs Fireworks: json_schema вместо json_object, required и additionalProperties, проверка finish_reason и Pydantic-валидация.
Как включить streaming в Fireworks AI API и собрать ответ без пропусков
Потоковый Chat Completions в Fireworks: stream=true, чтение delta.content, финальная сборка, UTF-8, таймаут и проверка результата.
Как настроить autoscaling Fireworks AI и обработать scale-to-zero
min/max replicas, окна масштабирования, load targets, код DEPLOYMENT_SCALING_UP и проверка холодного старта без потери запросов.
Как проверить prompt caching в Fireworks AI по реальным метрикам
Стабильный префикс, x-session-affinity, cache isolation, заголовки cached prompt tokens и A/B-проверка TTFT без самообмана.
Как создать on-demand deployment Fireworks AI и выбрать deployment shape
Выбор shape, создание через firectl, фиксация региона, проверка состояния и запрос по ресурсу deployment без выдуманных GPU-конфигураций.
Как запустить Batch API Fireworks AI и проверить каждую строку JSONL
Подготовка JSONL до 80 GiB, уникальные custom_id, body.messages, загрузка dataset, запуск job и сверка results/error файлов.
Как задать embedding-модель локально в LlamaIndex и не смешать индексы
Settings как глобальный fallback и локальный embed_model для конкретного индекса с тестом на совместимость после перезапуска.
Как подключить OpenAI SDK к OpenRouter API и проверить реальную модель
Практический запуск OpenRouter через OpenAI SDK: base_url, ключ из переменной окружения, тестовый запрос и проверка model, usage и ошибок.
Как вызвать модель Cloudflare Workers AI через REST API
Получение Account ID и API token, endpoint ai/run, Bearer-аутентификация, контроль success/errors и безопасная проверка первого REST-запроса.
Почему Fireworks AI возвращает 429 и как исправить причину
Разница 429 на serverless и dedicated/on-demand, чтение заголовков лимитов, управление concurrency, backoff с jitter и нагрузочный тест.
Как проверить prompt caching в Cloudflare Workers AI
Prefix caching Workers AI: стабильный префикс, x-session-affinity, одинаковая модель, измерение TTFT и контрольный запрос с изменённым началом.
Как сделать RAG на Cloudflare Workers AI и Vectorize без ошибки размерности
Создание Vectorize index с dimensions и cosine, AI и Vectorize bindings, генерация embeddings одной моделью, insert/query и проверка релевантности.
Как подключить OpenAI embedder к Meilisearch и проверить индексацию
Конфигурация openAi source, documentTemplate, асинхронные tasks и тест русского семантического запроса без публикации API-ключа.
Как создать первого AI-агента LangChain на Python и проверить ответ
Минимальный create_agent в LangChain 1.x: provider:model, системная инструкция, сообщения и тест ответа без фиктивных инструментов.
Как настроить function calling в Cloudflare Workers AI безопасно
Traditional function calling в Workers AI: описание tools, JSON-аргументы, allowlist, schema validation, авторизация и двухшаговый вызов внешнего API.
Как подключить AI Gateway к Cloudflare Workers AI
Маршрутизация Workers AI через AI Gateway: cf-aig-gateway-id, Bearer token, прежний ai/v1 endpoint, проверка логов и безопасная передача metadata.
Как подключить OpenAI SDK к Groq API и учесть несовместимые параметры
Миграция клиента OpenAI на Groq через base_url: рабочий пример и список параметров, которые дают 400 — logprobs, logit_bias и n не равное 1.