Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как проверить Prompt Caching в Groq API и получить cache hit
Автоматический prompt caching Groq: стабильный общий префикс, cached_tokens, двухчасовое истечение, ограничения моделей и честный A/B-тест.
Как проверить Prompt Caching в OpenAI API и найти промахи кеша
Практическая настройка Prompt Caching в OpenAI API: стабильный префикс, cached_tokens, контрольный тест и диагностика cache miss.
Как работает Prompt Caching в OpenAI API и что реально экономит токены
Объясняем Prompt Caching: какой префикс повторять, куда ставить переменную часть, как измерять cached tokens и не путать кэш с памятью.
Как настроить Prompt Caching в Claude API и проверить cache_read_input_tokens
Как расставить cache_control в Claude API, сохранить стабильный префикс и подтвердить повторное чтение кеша по usage.
Как использовать context caching в Gemini API для повторяющегося контекста
Как использовать context caching в Gemini API для повторяющегося контекста: пошаговый разбор, готовый шаблон, пример и контроль ошибок.
Как работает prompt caching в Claude API и когда он полезен
Разбираем кэширование промптов Claude: что размещать в стабильном префиксе, как проверять токены кэша и чего не ожидать.
Как проверить prompt caching в OpenRouter и не потерять cache hit
Как устроить повторяемый префикс, использовать session_id, читать cached_tokens и cache_write_tokens и не ломать липкую маршрутизацию provider.order.
Как использовать Flex Processing в Groq и обработать ошибку 498
Настройка service_tier:flex для высоконагруженных задач: быстрый capacity_exceeded, jittered backoff, ограничение повторов и fallback на on-demand.
Как подключить Groq API к Python и проверить первый Chat Completion
Установка Groq SDK, безопасный API-ключ, первый запрос из Python и проверка content, finish_reason, model и usage на реальном ответе.
Как получить строгий JSON по JSON Schema через Groq API
Structured Outputs в Groq: response_format json_schema, strict:true, required, additionalProperties:false и локальная проверка бизнес-правил.
Как настроить reasoning_format в Groq API: parsed, raw или hidden
Выбор режима reasoning в Groq, различия GPT-OSS и Qwen, несовместимость параметров и проверка финального content без утечки рассуждений.
Как настроить Tool Use в Groq API и безопасно выполнить функцию
Полный цикл function calling в Groq: JSON Schema инструмента, проверка аргументов, выполнение на сервере и возврат tool result модели.
Как подключить OpenAI SDK к Groq API и учесть несовместимые параметры
Миграция клиента OpenAI на Groq через base_url: рабочий пример и список параметров, которые дают 400 — logprobs, logit_bias и n не равное 1.
Как запустить Groq Batch API: подготовка JSONL и проверка результатов
Пакетная обработка Groq: custom_id, POST, url, body, загрузка JSONL, окно выполнения и сверка каждой строки без потери заявок.
Как настроить context caching в Gemini API и проверить экономию повторных запросов
Как создать кеш большого контекста Gemini, переиспользовать его, контролировать TTL и сверять usage без выдуманных процентов.
Как включить streaming в Groq API и правильно собрать ответ из chunks
Потоковый Chat Completion через stream=True: обработка delta.content, пустых дельт, завершения потока и проверка собранного ответа.
Как использовать Batch API xAI для большой пачки запросов Grok
Практическое руководство по запросу «как использовать Batch API Grok»: рабочий пример, реальные поля API, ограничения и проверка результата.
Как использовать Files API Claude: загрузка, file_id и удаление документа
Как загрузить документ в Claude Files API, использовать file_id в Messages API, проверить ответ и удалить временный файл.
Как использовать logprobs в OpenAI API для контроля классификации
Как использовать logprobs в OpenAI API для контроля классификации: применимость, настройка, пример, метрики и ошибки.
Почему Groq API возвращает 429 и как читать rate-limit headers
Диагностика RPM, RPD, TPM, TPD, ITPM и OTPM в Groq: retry-after, оставшиеся токены, очередь, jitter и защита от шторма повторов.