Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как сохранить кэш индексации LlamaIndex IngestionPipeline
Persist и load кэша преобразований для повторного запуска с неизменными документами без ложных обещаний полной идемпотентности.
Как сохранить и загрузить индекс LlamaIndex после перезапуска
persist_dir, StorageContext и load_index_from_storage с проверкой, что после рестарта не выполняется новая индексация.
Как задать embedding-модель локально в LlamaIndex и не смешать индексы
Settings как глобальный fallback и локальный embed_model для конкретного индекса с тестом на совместимость после перезапуска.
Как измерить hit rate и MRR поиска в LlamaIndex RetrieverEvaluator
Размеченный вопрос, expected_ids и оценка позиции релевантного узла до тестирования ответов генератора.
Как сохранить и повторно загрузить SentenceTransformer локально
Сохраняем модель и конфигурацию в локальную папку, отключаем случайное скачивание и проверяем результат на том же контрольном тексте.
Как проверить prompt caching в OpenRouter и не потерять cache hit
Как устроить повторяемый префикс, использовать session_id, читать cached_tokens и cache_write_tokens и не ломать липкую маршрутизацию provider.order.
Как ограничить размер пакета при индексации в LlamaIndex VectorStoreIndex
insert_batch_size при from_documents: контролируем память и задержки загрузки, не путая пакет с размером чанка.
Как обновить одну редакцию документа в LlamaIndex без смешивания версий
Стабильный id_, update_ref_doc и контроль старого и нового правила в поисковой выдаче.
Как показывать ответ LlamaIndex по мере генерации через streaming
streaming=True, response_gen и проверка полного ответа, отмены запроса и ограничений streaming-модели.
Как проверить RAG-шаблон LlamaIndex RichPromptTemplate до вызова модели
Jinja-переменные context_str и query_str, предпросмотр format и отдельная проверка поведения генератора.
Как скрыть служебные метаданные документа от LLM в LlamaIndex
Отдельные настройки metadata для генератора и embedding-модели с проверкой MetadataMode.LLM и EMBED.
Как загрузить только нужные файлы в LlamaIndex через SimpleDirectoryReader
input_files, required_exts и recursive: не отправляем в индекс лишние файлы и проверяем метаданные источника.
Как сохранить embeddings в Neo4j через setNodeVectorProperty без смешивания моделей
Идемпотентная запись vectors в узлы: MERGE, model_id, checksum, проверка длины и db.create.setNodeVectorProperty вместо строковой сборки Cypher.
Как настроить Prompt Caching в Claude API и проверить cache_read_input_tokens
Как расставить cache_control в Claude API, сохранить стабильный префикс и подтвердить повторное чтение кеша по usage.
Как сохранить FileOutput Replicate до автоматического удаления через час
Сохранение изображений, аудио и видео из Replicate API: FileOutput.read, потоковая запись, временные URL и обязательная копия результата.
Как озвучить русский текст через SpeechKit API v3 и сохранить WAV
Как озвучить русский текст через SpeechKit API v3 и сохранить WAV: настройка API, пример, проверка качества и ошибки.
Как проверить Prompt Caching в Groq API и получить cache hit
Автоматический prompt caching Groq: стабильный общий префикс, cached_tokens, двухчасовое истечение, ограничения моделей и честный A/B-тест.
Как настроить fallback между моделями в OpenRouter API
Готовая схема models в порядке приоритета: какие ошибки запускают переключение, как узнать итоговую модель и проверить качество резервного ответа.
Как разделить трафик между deployments Together AI без неверных процентов
Traffic weights, готовые replicas, update_mask=trafficSplit, нулевой вес, endpoint_not_configured и проверка фактического распределения.
Как запустить модель Replicate API из Python и сохранить результат
Практический запуск модели Replicate из Python: токен в окружении, replicate.run, проверка FileOutput и сохранение файла без выдуманных параметров.