Гайд · TNWS AI

Как настроить tool use в Cohere API и обработать несколько функций

2 мин

Практическое руководство по запросу «как настроить функции Cohere API»: реальные параметры Cohere API, рабочий код, ограничения и измеримая проверка результата.

Короткий ответ: Модель выбирает функцию и аргументы, но код исполняет ваше приложение. Ниже — рабочая схема внедрения, реальные параметры и проверки, которые отделяют демонстрацию от production-интеграции.

Что реально делает функция

  • Модель выбирает функцию и аргументы, но код исполняет ваше приложение.
  • Имя функции сверяется с allowlist, аргументы — с JSON Schema.
  • Результат инструмента возвращается модели отдельным сообщением.
  • Несколько вызовов нельзя silently сводить к первому.
  • Операции записи требуют авторизации и подтверждения на backend.

Пошаговое внедрение

  1. Зафиксируйте входной и выходной контракт.
  2. Выберите актуальную модель в официальном каталоге.
  3. Храните ключ только на backend и задайте таймаут.
  4. Валидируйте ответ и сопоставляйте индексы/ID с исходными объектами.
  5. Добавьте метрики latency, ошибок и billed units.
  6. Проведите canary перед полной нагрузкой.

Рабочий пример

tools=[{"type":"function","function":{"name":"get_order","description":"Get order by id","parameters":{"type":"object","properties":{"id":{"type":"string"}},"required":["id"]}}}]
# Для каждого tool_call: allowlist -> validate args -> authorize -> execute -> return tool result.

Как проверить результат

  • Запросить два заказа и убедиться, что обработаны оба вызова.
  • Передать неизвестную функцию, SQL в id и чужой order id — все три запроса должны быть отклонены backend.

Чего не делать

  • Не публикуйте API-ключ и полный чувствительный prompt в логах.
  • Не выбирайте модель по одному удачному примеру.
  • Не повторяйте 4xx бесконечно.
  • Не считайте валидный JSON или высокий score доказательством факта.

Ограничения

Модели, тарифы, квоты и поля API меняются. Сведения проверены по официальной документации 12 сентября 2026 года; перед production-релизом повторите проверку.

FAQ

Нужен ли отдельный API-ключ?

Да, храните его на сервере в переменной окружения и ограничьте доступ.

Можно ли верить relevance_score как вероятности?

Нет, калибруйте порог на собственном размеченном наборе.

Как проверить качество?

Используйте фиксированный eval: recall@k, MRR или nDCG, плюс негативные запросы.

Где проверять цену?

На официальной pricing-странице и в панели аккаунта в день расчёта.

Официальный источник

https://docs.cohere.com/docs/tool-use-overview

Читайте также

Комментарии

Пока тихо. Скажите первое слово