Гайд · TNWS AI

Как настроить Modelfile в Ollama: системный промпт, параметры и тест

5 мин

Как создать собственную конфигурацию локальной модели в Ollama через Modelfile, собрать её и проверить одинаковыми запросами.

Что даст этот гайд

Задача — создать повторяемую локальную конфигурацию модели с системной инструкцией и контролируемыми параметрами. Результатом должен стать воспроизводимый рабочий сценарий, который другой человек сможет повторить по тем же входным данным. Перед настройкой запишите критерий успеха: конкретный формат ответа, обязательные поля и ситуацию, в которой процесс обязан остановиться.

Инструменты с ИИ часто создают убедительный текст даже при недостатке данных. Поэтому в этом гайде успешный ответ — не самый подробный, а тот, где факты отделены от предположений, а пробелы обозначены явно.

Что подготовить до начала

Понадобятся установленный Ollama, уже доступную базовую модель, текстовый редактор и набор из пяти тестовых запросов. Работайте сначала на тестовой копии. Удалите пароли, ключи, персональные данные и закрытые документы, если их обработка не согласована. Секреты храните в переменных окружения или менеджере секретов.

Создайте таблицу контроля: ID теста, вход, ожидаемый результат, фактический результат, источник, статус. Добавьте минимум пять кейсов: обычный, пустой, без нужного факта, с противоречием и с запрещённым действием. Это позволит увидеть регрессию после изменения модели, SDK или инструкции.

Пошаговая настройка

Создайте файл с директивой FROM, указывающей базовую модель, затем добавьте SYSTEM с постоянной ролью. Параметры задавайте через PARAMETER только после проверки их смысла в актуальном справочнике. Не копируйте параметры от другой модели без теста.

Соберите конфигурацию командой ollama create <имя> -f Modelfile, затем запустите её через ollama run <имя>. Проведите A/B-проверку: одинаковые пять запросов отправьте базовой и новой конфигурации. Оцените соблюдение формата, обработку отсутствующих данных и лишние утверждения. Храните Modelfile рядом с тестами в системе контроля версий, но не помещайте туда секреты.

После первого успешного ответа сохраните точный запрос, параметры, идентификаторы ресурсов и дату. Не ограничивайтесь скриншотом: текстовый журнал проще сравнивать и повторять. Если действие затрагивает внешнюю систему, добавьте идемпотентный ключ или другой механизм защиты от повторного выполнения.

Готовый промпт

Замените значения в квадратных скобках и сохраните получившуюся версию рядом с тестами:

SYSTEM: Ты помощник внутренней базы знаний. Отвечай только по предоставленному контексту. Формат: ANSWER, EVIDENCE, MISSING. Если подтверждения нет, ANSWER=нет данных. Никогда не придумывай URL, имена и сроки.

Не добавляйте расплывчатые требования вроде «ответь максимально умно». Для фактической задачи важнее перечислить разрешённые источники, формат, правило для отсутствующих данных и критерий остановки. Если результат читает программа, валидируйте JSON до использования полей.

Практический пример

Вход

Контекст сообщает только: «Резервное копирование выполняется по пятницам». Вопрос: «Где хранится резервная копия?»

Ожидаемый результат

Настроенная модель возвращает «нет данных» и указывает отсутствующее место хранения. Ответ про облако или сервер будет ошибкой.

Повторите пример с одним отсутствующим значением. Корректный процесс должен вернуть null, «нет данных» или понятный статус, предусмотренный вашей схемой. Правдоподобная подстановка опаснее явной ошибки, потому что может незаметно попасть в следующий этап.

Проверка результата в три прохода

Технический проход: запрос завершился, формат читается, идентификаторы не потеряны, секреты не попали в ответ или лог. Смысловой проход: минимум три факта сверены с исходником; отдельно проверены числа, даты и отрицания. Процессный проход: повторный запуск не создаёт дубликат и корректно обрабатывает таймаут или недоступность сервиса.

Меняйте только один параметр за итерацию. Если одновременно заменить модель, промпт и входные данные, причину изменения качества определить невозможно. Сохраняйте старую рабочую версию до завершения проверки.

Чек-лист

  • задача сформулирована через проверяемый результат;
  • границы и запрещённые действия указаны явно;
  • используются тестовые или разрешённые данные;
  • названия функций сверены с официальным источником;
  • секреты отсутствуют в коде, тексте запроса и открытом логе;
  • обычный сценарий проходит от начала до конца;
  • пустой вход обрабатывается предсказуемо;
  • отсутствие факта не превращается в догадку;
  • ключевые числа, даты, имена и URL сверены вручную;
  • повторный запуск не создаёт необратимый дубль;
  • сохранены инструкция, параметры и дата проверки.

Как сделать процесс полезнее

Назначьте владельца сценария. Он отвечает не за каждое нажатие, а за актуальность документации, тестов и критериев. В журнале фиксируйте найденный дефект и конкретное исправление: «добавили обязательное поле source», а не «улучшили промпт».

Раз в несколько изменений запускайте старый набор тестов целиком. Новый удачный пример не должен ломать обработку пустых данных или запрещённых действий. Для автоматизированного процесса задайте порог остановки: неверный формат, отсутствующий ID, ошибка авторизации или неподтверждённое критичное поле.

Минимальный журнал качества

Для каждой попытки сохраняйте пять значений: идентификатор входа, версия инструкции, итоговый статус, обнаруженная проблема и решение проверяющего. Полный текст чувствительного запроса в журнале не нужен — используйте обезличенный ID. Раз в неделю или после заметного обновления выберите десять записей разных типов и пересмотрите их вручную. Такой небольшой аудит показывает систематические ошибки: например, модель стабильно теряет единицы измерения или приложение повторно вызывает инструмент после таймаута. Исправляйте сначала процесс и валидацию, а уже затем формулировку промпта.

Ограничения

Modelfile влияет на поведение, но не гарантирует соблюдение инструкции. Разные базовые модели могут по-разному реагировать на те же параметры. Доступность функций, модели, форматы запросов, тарифы и лимиты могут меняться. Перед внедрением перепроверьте соответствующий раздел официальной документации, а не стороннюю статью или старый пример.

FAQ

Можно ли сразу подключать рабочие данные?

Нет. Сначала прогоните сценарий на обезличенной копии, проверьте ошибки и права. Рабочие данные подключайте только после согласования режима обработки.

Почему недостаточно успешного статуса API?

Он подтверждает обработку запроса, но не истинность вывода. Значимые факты нужно сверять с исходником или результатом доверенной функции.

Что делать, если ответ меняется между запусками?

Зафиксируйте вход и параметры, уменьшите свободу формата, добавьте схему и автоматические проверки. Для творческой задачи вариативность допустима, для извлечения фактов — обычно нет.

Как обновлять такой процесс?

После изменения SDK, модели, схемы или источника повторите весь набор тестов. Сравните результаты построчно и сохраните причину принятого изменения.

Первоисточник и дата проверки

Функции и названия параметров сверены 11 сентября 2026 года: официальный справочник Ollama Modelfile. Численные тарифы и лимиты намеренно не приведены: их следует проверять на официальной странице непосредственно перед использованием.

Частые вопросы

Можно ли использовать рабочие данные сразу?

Сначала проверьте сценарий на обезличенной копии и согласуйте обработку данных.

Достаточно ли статуса 200?

Нет. Он подтверждает обработку запроса, но не корректность фактов и действий.

Как тестировать обновления?

Повторяйте одинаковый набор обычных, пустых, противоречивых и запрещённых сценариев.

Где хранить ключ API?

В переменной окружения или менеджере секретов, но не в коде и промпте.

Читайте также

Комментарии

Пока тихо. Скажите первое слово