Новость · TNWS AI

Что нового в Cohere Rerank 4.0 и как мигрировать с V1

WindowsmacOSLinux#Cohere #нейросети #API

12 сентября 2026 2 мин—

Практическое руководство по запросу «что нового в Cohere Rerank 4.0»: реальные параметры Cohere API, рабочий код, ограничения и измеримая проверка результата.

Короткий ответ: В V2 параметр model обязателен. Ниже — рабочая схема внедрения, реальные параметры и проверки, которые отделяют демонстрацию от production-интеграции.

Что реально делает функция

В V2 параметр model обязателен.
В старом переходе V1→V2 max_chunks_per_doc заменён max_tokens_per_doc.
V2 Rerank принимает список строк; структурированные данные рекомендуется сериализовать последовательно.
top_n ограничивает число возвращаемых результатов, но не качество candidate retrieval.
Новые модели нельзя оценивать на старых score-порогах без перекалибровки.

Пошаговое внедрение

Зафиксируйте входной и выходной контракт.
Выберите актуальную модель в официальном каталоге.
Храните ключ только на backend и задайте таймаут.
Валидируйте ответ и сопоставляйте индексы/ID с исходными объектами.
Добавьте метрики latency, ошибок и billed units.
Проведите canary перед полной нагрузкой.

Рабочий пример

# Было: /v1/rerank + max_chunks_per_doc
# Стало: /v2/rerank + обязательный model + max_tokens_per_doc
# Миграция: shadow traffic -> compare index order -> recalibrate thresholds -> canary.

Как проверить результат

Отправить shadow-копию production-кандидатов в V2 без влияния на выдачу.
Сравнить overlap@10, nDCG, latency, ошибки и billed_units перед переключением.

Чего не делать

Не публикуйте API-ключ и полный чувствительный prompt в логах.
Не выбирайте модель по одному удачному примеру.
Не повторяйте 4xx бесконечно.
Не считайте валидный JSON или высокий score доказательством факта.

Ограничения

Модели, тарифы, квоты и поля API меняются. Сведения проверены по официальной документации 12 сентября 2026 года; перед production-релизом повторите проверку.

FAQ

Нужен ли отдельный API-ключ?

Да, храните его на сервере в переменной окружения и ограничьте доступ.

Можно ли верить relevance_score как вероятности?

Нет, калибруйте порог на собственном размеченном наборе.

Как проверить качество?

Используйте фиксированный eval: recall@k, MRR или nDCG, плюс негативные запросы.

Где проверять цену?

На официальной pricing-странице и в панели аккаунта в день расчёта.

Официальный источник

https://docs.cohere.com/changelog/rerank-v4.0