Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как показывать ответ LlamaIndex по мере генерации через streaming
streaming=True, response_gen и проверка полного ответа, отмены запроса и ограничений streaming-модели.
Как включить streaming в Groq API и правильно собрать ответ из chunks
Потоковый Chat Completion через stream=True: обработка delta.content, пустых дельт, завершения потока и проверка собранного ответа.
Как включить streaming в Fireworks AI API и собрать ответ без пропусков
Потоковый Chat Completions в Fireworks: stream=true, чтение delta.content, финальная сборка, UTF-8, таймаут и проверка результата.
Как проверить RAG-шаблон LlamaIndex RichPromptTemplate до вызова модели
Jinja-переменные context_str и query_str, предпросмотр format и отдельная проверка поведения генератора.
Как включить streaming в Mistral API и собрать полный ответ
Как включить streaming в Mistral API и собрать полный ответ: рабочий сценарий, шаблон, пример и критерии проверки.
Как включить streaming в Gemini API и правильно собрать ответ
Как включить streaming в Gemini API и правильно собрать ответ: конкретные шаги, тестовый пример, проверка результата и ошибки.
Как задать embedding-модель локально в LlamaIndex и не смешать индексы
Settings как глобальный fallback и локальный embed_model для конкретного индекса с тестом на совместимость после перезапуска.
Как измерить hit rate и MRR поиска в LlamaIndex RetrieverEvaluator
Размеченный вопрос, expected_ids и оценка позиции релевантного узла до тестирования ответов генератора.
Как настроить поиск Qdrant через Query API и измерить Recall@k
Поиск ближайших соседей через query_points: limit, with_payload, exact baseline, gold-набор, Recall@k и защита RAG от нерелевантного контекста.
Как извлечь ответ из заданного текста через Transformers question-answering
Контекст, вопрос и контроль отсутствующего ответа: извлекаем span из документа, проверяем offsets и не принимаем догадку за факт.
Как загрузить только нужные файлы в LlamaIndex через SimpleDirectoryReader
input_files, required_exts и recursive: не отправляем в индекс лишние файлы и проверяем метаданные источника.
Как включить iterative scan в pgvector: strict_order и relaxed_order
Настройка pgvector 0.8+ для фильтрованного ANN: strict/relaxed ordering, materialized CTE и ограничения сканирования.
Как включить int8, int4 или BBQ-квантование dense_vector в Elasticsearch
Сравнение int8_hnsw, int4_hnsw и bbq_hnsw, ограничения dimensions, oversampling, rescoring и честная оценка памяти.
Как включить on_disk и compression_level для vectors в OpenSearch
Режимы in_memory и on_disk, compression_level 1x–32x, mapping 16x, oversampling/rescoring и проверка recall, latency и RAM.
Как включить scalar или binary quantization в MongoDB Vector Search
Индекс с quantization, сравнение float/scalar/binary, full-fidelity rescoring, Recall@10, p95, RAM и disk без обещаний на чужом benchmark.
Как включить Smart Format в Deepgram и проверить даты, числа и пунктуацию
Что реально делает smart_format=true, различия языков, задержка финализации в streaming, no_delay и A/B-проверка на контрольной записи.
Как ограничить размер пакета при индексации в LlamaIndex VectorStoreIndex
insert_batch_size при from_documents: контролируем память и задержки загрузки, не путая пакет с размером чанка.
Как обновить одну редакцию документа в LlamaIndex без смешивания версий
Стабильный id_, update_ref_doc и контроль старого и нового правила в поисковой выдаче.
Как скрыть служебные метаданные документа от LLM в LlamaIndex
Отдельные настройки metadata для генератора и embedding-модели с проверкой MetadataMode.LLM и EMBED.
Как сохранить и загрузить индекс LlamaIndex после перезапуска
persist_dir, StorageContext и load_index_from_storage с проверкой, что после рестарта не выполняется новая индексация.