Как задать размерность embeddings через dimensions в Ollama API

• /api/embed принимает необязательный параметр dimensions.
• Ответ содержит массив embeddings, по одному вектору на каждый input.
• Клиент должен проверять фактическую длину каждого массива.
• Существующий vector index обычно ожидает одну фиксированную размерность для коллекции.
• Поддержка конкретного значения зависит от модели; неподдерживаемый запрос нельзя исправлять выдуманным дополнением нулями.

Эти пункты задают границу решения. Не расширяйте их предположениями: наличие поля не гарантирует истинность содержимого, HTTP 200 не подтверждает бизнес-состояние, а комментарий в коде не заменяет assert.

Подготовка стенда

• Зафиксируйте версию SDK, Ollama и точное имя тестовой модели.
• Используйте fake tool или provider stub для сценариев с побочными эффектами.
• Удалите токены, персональные данные, реальные счета и внутренние пути.
• Добавьте счётчики model calls и tool executions.
• Настройте завершение процесса с ошибкой при несовпадении контракта.

Тестовый ввод должен быть небольшим, но реалистичным. Идентификаторы T-781 и INV-781 в статье вымышлены. Для длинного текста создавайте синтетическую строку без копирования пользовательских документов.

Пошаговые действия

1. Определите dimension из схемы новой коллекции, а не из случайного ответа.
2. Передайте число в поле dimensions и массив тестовых input.
3. Проверьте количество embeddings и длину каждого вектора.
4. При несовпадении остановите импорт до записи первой строки и создайте отдельную миграцию индекса.

После каждого действия сохраняйте минимальное доказательство: класс объекта, длину списка, status code, обязательное поле JSON или порядок событий. Полный prompt и raw payload в журнал не нужны.

Копируемый пример

Сохраните пример как отдельный файл языка javascript. Значения в угловых скобках — заполнители; их нельзя выдавать за реальные digest или идентификаторы.

const dimensions = 256; // пример схемы тестовой коллекции
const input = ["Ошибка оплаты", "Двойное списание"];
const res = await fetch("http://localhost:11434/api/embed", {
  method: "POST",
  headers: {"content-type": "application/json"},
  body: JSON.stringify({model: "all-minilm", input, dimensions})
});
if (!res.ok) throw new Error("embed HTTP " + res.status);
const data = await res.json();
if (data.embeddings.length !== input.length) throw new Error("count mismatch");
for (const vector of data.embeddings)
  if (vector.length !== dimensions) throw new Error("dimension mismatch");

Python запускайте в virtualenv проекта, JavaScript — как .mjs в Node.js с fetch. Не смешивайте глобальную и проектную версии. Если импорт отсутствует, сначала проверьте установленную версию, а не подбирайте похожий API.

Реалистичный вход

Вход: два коротких текста и тестовая размерность 256, выбранная только для коллекции, где модель подтверждённо поддерживает это значение.

Ожидаемый результат

Ответ содержит два вектора, каждый длиной 256. Если модель не поддерживает параметр, запрос завершается ошибкой и данные не записываются в индекс.

Ожидание перенесите в assert или throw. Если текст модели недетерминирован, сравнивайте структурный инвариант. Если API возвращает массив, проверяйте число элементов и форму каждого.

Негативная проверка

Измените схему хранилища на другую размерность, не меняя embed-запрос. Pre-write проверка должна остановить импорт до частично записанной коллекции.

Негативный тест должен ломать ровно одно условие. Сетевая ошибка не равна 404, пустой список не равен PASS, новый запуск не равен resume, а локально созданный UUID не равен response ID провайдера.

Готовый prompt для ревью

Проверь pipeline dimensions: значение подтверждено моделью, число векторов равно числу inputs, длина каждого проверена, при mismatch нет padding и частичной записи.

Верни таблицу: условие, доказательство из кода или очищенного лога, PASS/FAIL, минимальное исправление. Если доказательства нет — FAIL. Не додумывай версии, статусы и результаты.

Prompt помогает найти пропуски, но не заменяет исполнение. Вручную проверьте каждую ссылку ревьюера на код: комментарий может быть ошибочно принят за работающую защиту.

Независимая проверка

Составьте матрицу из штатного, ошибочного и пограничного входа. Для каждой строки укажите ожидаемую ветку, наблюдаемый признак и фактический результат. Повторите тест дважды, чтобы обнаружить кеш, старое состояние или двойной side effect.

Для agent run отдельно считайте model responses, tools и RunItem: это разные сущности. Для Ollama проверяйте HTTP и тело. Если операция изменяет модель или индекс, после неё используйте read-only endpoint или схему хранилища как второе доказательство.