Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как уменьшить задержку OpenAI API: что измерять до смены модели
Оптимизация задержки OpenAI API: TTFT, полное время, streaming, длина вывода, параллельные запросы, кэш и корректный нагрузочный тест.
Как включить Smart Format в Deepgram и проверить даты, числа и пунктуацию
Что реально делает smart_format=true, различия языков, задержка финализации в streaming, no_delay и A/B-проверка на контрольной записи.
Что лучше для Claude API: streaming или обычный ответ
Сравнение streaming и обычного ответа Claude API: задержка до первого текста, сложность клиента, ошибки и критерии выбора.
Как группировать запросы к ML-модели через batch=True в Gradio Interface
Сверяем сигнатуру пакетной функции, tuple of lists и max_batch_size на детерминированном тесте.
Как обработать большой поток отзывов пакетами в Transformers без переполнения памяти
batch_size, потоковый источник и честный замер производительности: сохраняем соответствие входов и выходов и тестируем OOM.
Как найти очередь запросов vLLM по метрикам /metrics
Разделяем очередь и генерацию через метрики ожидающих запросов и времени ожидания; строим контрольный замер.
Как переранжировать результаты поиска через CrossEncoder.rank
Повторно проверяем top-k кандидатов для одного вопроса, сохраняем corpus_id и не применяем дорогую парную модель ко всей коллекции.
Как проверить готовность llama.cpp server через /health перед запросом к модели
Разбираем ответ /health при загрузке модели и после неё; Python-проверка различает 503, 200 и сетевую ошибку.
Как измерить Recall@10 ANN-поиска Vespa через exact baseline
Два сопоставимых nearestNeighbor-запроса с approximate:false, формула Recall@10 и ограничения exact baseline.
Как настроить HNSW в Typesense: M, ef_construction и ef
Официальные параметры HNSW Typesense 30.2: defaults, индексирование, ef на запросе и проверка Recall@10, памяти и p95.
Как настроить HNSW Vespa: links, insert и exploreAdditionalHits
Индексные и запросные параметры HNSW в Vespa с измерением Recall@10, памяти, скорости загрузки и p95.
Как фильтровать MongoDB Vector Search по tenant и visibility до поиска
Безопасный pre-filter в $vectorSearch, filter fields в индексе, ACL с backend identity и отрицательный тест межклиентской утечки.
Как фильтровать payload в Qdrant через must, should и must_not
Безопасный payload filter Qdrant: логика must, should, must_not, MatchValue, числовые диапазоны, payload index и отрицательный тест доступа.
Как измерить Recall@10 и p95 MongoDB Vector Search на своём датасете
Воспроизводимый benchmark MongoDB: exact ENN ground truth, ANN candidate grid, filters, concurrency, Recall@10, nDCG@10 и tail latency.
Как сменить embedding-модель в Qdrant без простоя
Blue-green миграция embedding-модели Qdrant: новая коллекция, dual write, scroll, повторное кодирование, alias cutover и вариант named vectors для 1.18+.
Как настроить гибридный поиск Qdrant: dense, sparse и RRF
Гибридный поиск Qdrant через named vectors, prefetch и Reciprocal Rank Fusion: точные артикулы, смысловые запросы, проверка Recall@k и p95.
Как настроить multitenancy в Qdrant через payload и is_tenant
Одна коллекция Qdrant для многих tenants: keyword payload index с is_tenant=true, обязательный фильтр, backend mapping и тест межклиентской изоляции.
Как настроить numCandidates в MongoDB Vector Search по Recall@10 и p95
Проверяемая сетка numCandidates для фиксированного limit: exact baseline, Recall@10, p95/p99, QPS, фильтры и выбор по SLO.
Как настроить поиск Qdrant через Query API и измерить Recall@k
Поиск ближайших соседей через query_points: limit, with_payload, exact baseline, gold-набор, Recall@k и защита RAG от нерелевантного контекста.
Как настроить retry и endpoint в BackendSpanExporter
Задаём endpoint, max_retries, base_delay и max_delay у BackendSpanExporter и проверяем конфигурацию без отправки данных.