Гайд · TNWS AI

Как добавить Cohere Rerank после BM25 или векторного поиска

WindowsmacOSLinux#Cohere #нейросети #API

12 сентября 2026 2 мин—

Практическое руководство по запросу «как использовать Cohere Rerank»: реальные параметры Cohere API, рабочий код, ограничения и измеримая проверка результата.

Короткий ответ: Rerank — второй этап: сначала получите кандидатов BM25/vector search. Ниже — рабочая схема внедрения, реальные параметры и проверки, которые отделяют демонстрацию от production-интеграции.

Что реально делает функция

Rerank — второй этап: сначала получите кандидатов BM25/vector search.
V2 принимает query, documents, обязательный model и необязательный top_n.
Результаты содержат исходный index и relevance_score.
Cohere рекомендует не отправлять более 1000 документов за запрос.
max_tokens_per_doc по умолчанию равен 4096; длинный текст обрезается.

Пошаговое внедрение

Зафиксируйте входной и выходной контракт.
Выберите актуальную модель в официальном каталоге.
Храните ключ только на backend и задайте таймаут.
Валидируйте ответ и сопоставляйте индексы/ID с исходными объектами.
Добавьте метрики latency, ошибок и billed units.
Проведите canary перед полной нагрузкой.

Рабочий пример

r=co.rerank(model="rerank-v4.0-pro",query=query,documents=candidates,top_n=10)
ordered=[candidates[x.index] for x in r.results]
# Не теряйте связь index -> document id.

Как проверить результат

Сравнить nDCG@10 и MRR до/после rerank на размеченных запросах.
Добавить релевантный фрагмент после границы truncation и проверить влияние max_tokens_per_doc.

Чего не делать

Не публикуйте API-ключ и полный чувствительный prompt в логах.
Не выбирайте модель по одному удачному примеру.
Не повторяйте 4xx бесконечно.
Не считайте валидный JSON или высокий score доказательством факта.

Ограничения

Модели, тарифы, квоты и поля API меняются. Сведения проверены по официальной документации 12 сентября 2026 года; перед production-релизом повторите проверку.

FAQ

Нужен ли отдельный API-ключ?

Да, храните его на сервере в переменной окружения и ограничьте доступ.

Можно ли верить relevance_score как вероятности?

Нет, калибруйте порог на собственном размеченном наборе.

Как проверить качество?

Используйте фиксированный eval: recall@k, MRR или nDCG, плюс негативные запросы.

Где проверять цену?

На официальной pricing-странице и в панели аккаунта в день расчёта.

Официальный источник

https://docs.cohere.com/reference/rerank