Как получить полные tokenizer-поля через verbose в Ollama /api/show

• Информация о модели запрашивается POST /api/show.
• Параметр verbose:true возвращает полные данные для verbose response fields.
• В официальном примере tokenizer.ggml.merges, token_type и tokens заполняются при verbose:true.
• Ответ также содержит details, model_info, capabilities, template и другие метаданные.
• Verbose payload может быть большим, поэтому его не следует безусловно писать в журнал.

Эти пункты задают границу решения. Не расширяйте их предположениями: наличие поля не гарантирует истинность содержимого, HTTP 200 не подтверждает бизнес-состояние, а комментарий в коде не заменяет assert.

Подготовка стенда

• Зафиксируйте версию SDK, Ollama и точное имя тестовой модели.
• Используйте fake tool или provider stub для сценариев с побочными эффектами.
• Удалите токены, персональные данные, реальные счета и внутренние пути.
• Добавьте счётчики model calls и tool executions.
• Настройте завершение процесса с ошибкой при несовпадении контракта.

Тестовый ввод должен быть небольшим, но реалистичным. Идентификаторы T-781 и INV-781 в статье вымышлены. Для длинного текста создавайте синтетическую строку без копирования пользовательских документов.

Пошаговые действия

1. Отправьте точное имя локальной модели и verbose:true.
2. Проверьте HTTP status, затем наличие object model_info.
3. Сравните длины tokenizer-массивов с обычным show, но не заявляйте универсальные значения.
4. Сохраните агрегаты и нужные metadata keys, а не полный словарь токенов.

После каждого действия сохраняйте минимальное доказательство: класс объекта, длину списка, status code, обязательное поле JSON или порядок событий. Полный prompt и raw payload в журнал не нужны.

Копируемый пример

Сохраните пример как отдельный файл языка javascript. Значения в угловых скобках — заполнители; их нельзя выдавать за реальные digest или идентификаторы.

const model = "llava";
const res = await fetch("http://localhost:11434/api/show", {
  method: "POST",
  headers: {"content-type": "application/json"},
  body: JSON.stringify({model, verbose: true})
});
if (!res.ok) throw new Error("show HTTP " + res.status);
const data = await res.json();
const info = data.model_info;
if (!info || typeof info !== "object") throw new Error("model_info missing");
const summary = {
  model,
  architecture: info["general.architecture"],
  tokenCount: Array.isArray(info["tokenizer.ggml.tokens"])
    ? info["tokenizer.ggml.tokens"].length : null
};
console.log(summary);

Python запускайте в virtualenv проекта, JavaScript — как .mjs в Node.js с fetch. Не смешивайте глобальную и проектную версии. Если импорт отсутствует, сначала проверьте установленную версию, а не подбирайте похожий API.

Реалистичный вход

Вход: точное имя уже установленной модели llava. Сначала выполняется show без verbose, затем с verbose:true.

Ожидаемый результат

В verbose-ответе model_info доступен, а поля tokenizer, которые модель поддерживает, содержат полные данные. В лог выводится только агрегат tokenCount.

Ожидание перенесите в assert или throw. Если текст модели недетерминирован, сравнивайте структурный инвариант. Если API возвращает массив, проверяйте число элементов и форму каждого.

Негативная проверка

Передайте неизвестное имя модели: ошибка не должна превращаться в пустой model_info. Также запретите console.log(data) для production.

Негативный тест должен ломать ровно одно условие. Сетевая ошибка не равна 404, пустой список не равен PASS, новый запуск не равен resume, а локально созданный UUID не равен response ID провайдера.

Готовый prompt для ревью

Проверь /api/show verbose: используется POST, verbose boolean true, model_info валидируется, tokenizer arrays не считаются обязательными для любой архитектуры, полный payload не логируется.

Верни таблицу: условие, доказательство из кода или очищенного лога, PASS/FAIL, минимальное исправление. Если доказательства нет — FAIL. Не додумывай версии, статусы и результаты.

Prompt помогает найти пропуски, но не заменяет исполнение. Вручную проверьте каждую ссылку ревьюера на код: комментарий может быть ошибочно принят за работающую защиту.

Независимая проверка

Составьте матрицу из штатного, ошибочного и пограничного входа. Для каждой строки укажите ожидаемую ветку, наблюдаемый признак и фактический результат. Повторите тест дважды, чтобы обнаружить кеш, старое состояние или двойной side effect.

Для agent run отдельно считайте model responses, tools и RunItem: это разные сущности. Для Ollama проверяйте HTTP и тело. Если операция изменяет модель или индекс, после неё используйте read-only endpoint или схему хранилища как второе доказательство.