Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как проверить Prompt Caching в Groq API и получить cache hit
Автоматический prompt caching Groq: стабильный общий префикс, cached_tokens, двухчасовое истечение, ограничения моделей и честный A/B-тест.
Как проверить Prompt Caching в OpenAI API и найти промахи кеша
Практическая настройка Prompt Caching в OpenAI API: стабильный префикс, cached_tokens, контрольный тест и диагностика cache miss.
Как работает Prompt Caching в OpenAI API и что реально экономит токены
Объясняем Prompt Caching: какой префикс повторять, куда ставить переменную часть, как измерять cached tokens и не путать кэш с памятью.
Как проверить prompt caching в Fireworks AI по реальным метрикам
Стабильный префикс, x-session-affinity, cache isolation, заголовки cached prompt tokens и A/B-проверка TTFT без самообмана.
Как проверить prompt caching в Cloudflare Workers AI
Prefix caching Workers AI: стабильный префикс, x-session-affinity, одинаковая модель, измерение TTFT и контрольный запрос с изменённым началом.
Как настроить Prompt Caching в Claude API и проверить cache_read_input_tokens
Как расставить cache_control в Claude API, сохранить стабильный префикс и подтвердить повторное чтение кеша по usage.
Как проверить prompt caching в OpenRouter и не потерять cache hit
Как устроить повторяемый префикс, использовать session_id, читать cached_tokens и cache_write_tokens и не ломать липкую маршрутизацию provider.order.
Как работает prompt caching в Claude API и когда он полезен
Разбираем кэширование промптов Claude: что размещать в стабильном префиксе, как проверять токены кэша и чего не ожидать.
Как использовать context caching в Gemini API для повторяющегося контекста
Как использовать context caching в Gemini API для повторяющегося контекста: пошаговый разбор, готовый шаблон, пример и контроль ошибок.
Как проверять prompt injection в ИИ-агенте перед запуском
Как проверять prompt injection в ИИ-агенте перед запуском: пошаговый разбор, готовый шаблон, пример и контроль ошибок.
Как проверить RAG-шаблон LlamaIndex RichPromptTemplate до вызова модели
Jinja-переменные context_str и query_str, предпросмотр format и отдельная проверка поведения генератора.
Как проверить пользу prefix caching vLLM для повторных вопросов к документу
Включаем prefix caching, сохраняем общий префикс и измеряем время обработки повторных вопросов без обещания ускорения каждого ответа.
Как собрать проверяемый RAG-промпт в Haystack PromptBuilder
Шаблон с вопросом и документами, обязательные переменные, безопасный отказ при пустом контексте и проверка рендеринга.
Как настроить context caching в Gemini API и проверить экономию повторных запросов
Как создать кеш большого контекста Gemini, переиспользовать его, контролировать TTL и сверять usage без выдуманных процентов.
Как улучшить распознавание терминов в AssemblyAI через prompt и keyterms
Universal-3.5 Pro: contextual prompt, keyterms_prompt, лимиты фраз, A/B-набор редких названий и измерение recall без выдуманных слов.
Как защититься от prompt injection при анализе документов нейросетью
Почему текст в файле может пытаться управлять ИИ и какие проверки снижают риск при работе с источниками.
Как зарегистрировать новую версию русского промпта в MLflow Prompt Registry
Создаём две неизменяемые версии промпта с переменными {{question}} и проверяем их форматирование без вызова модели.
Как оформить диалог для локальной LLM через apply_chat_template в Transformers
Роли user и assistant, add_generation_prompt и защита от двойных спецтокенов: проверяем входной шаблон перед генерацией.
Почему encode_query и encode_document различаются в Sentence Transformers
Проверяем prompts для асимметричного поиска, не смешиваем разные схемы кодирования и документируем модель при переиндексации.
Как хранить chunks для RAG в Vespa с проверяемыми source_id
Схема chunk-документов, parent ID, versioned embeddings, готовый prompt и тест цитат по исходным фрагментам.