Как включить Thinking в Ollama и отделить рассуждение от финального ответа

В Ollama Thinking включается параметром think в chat или generate. Для большинства поддерживаемых моделей это логическое значение; отдельные модели, включая GPT-OSS, поддерживают уровни low, medium и high. Рассуждение возвращается в message.thinking, финальный текст — в message.content.

Здесь важно разделять подтверждённый механизм и проектное решение. Названия API и полей берутся из источника. Ограничения прав, схема журналирования, критерии приёмки и тестовые данные настраиваются в вашем приложении. Они не появляются автоматически после подключения модели.

Что подготовить до первого запроса

Создайте тестовый проект и отдельный ключ с минимальными правами. Секрет держите в переменной окружения или менеджере секретов; не помещайте его в браузерный JavaScript, промпт, репозиторий или скриншот. Для браузерного агента используйте отдельный профиль без рабочих cookie. Для локальной модели зафиксируйте имя модели и сборку среды.

Подготовьте таблицу приёмки ещё до запуска. Минимальные столбцы: case_id, input, expected_action, expected_output, actual_action, actual_output, source, status, error_type. Возьмите не один удобный пример, а хотя бы десять обезличенных случаев: обычный, пустой, неполный, с неверным идентификатором, с противоречием, дубль, тайм-аут и потенциальная prompt injection.

Не используйте реальные персональные данные для первой проверки. Замените имена, адреса и номера, сохранив структуру. Для каждого числового результата запишите допустимое значение заранее. Иначе проверяющий легко принимает правдоподобный, но неверный ответ.

Пошаговая настройка

1. Проверьте на официальной странице, поддерживает ли выбранная модель thinking и какие значения принимает. Не передавайте строковый уровень модели, которая ожидает только true/false.
2. Вызовите chat с think:true либо допустимым уровнем. В интерфейсе заведите два отдельных буфера: internal_thinking и final_content.
3. Не показывайте thinking как доказательство истинности. Для пользователя выводите content, а факты сверяйте с входными данными или инструментами.
4. Соберите 20 контрольных задач с точными ожидаемыми ответами. Сравните think:false и think:true по доле правильных полей, времени и ошибкам; не публикуйте придуманные проценты.
5. Для потокового режима накапливайте chunk.message.thinking и chunk.message.content отдельно. Валидируйте финальный ответ только после окончания потока.

После каждого шага сохраняйте не только текст модели, но и техническое состояние: идентификатор запроса, выбранный инструмент, проверенные аргументы, длительность, итоговый статус и факт побочного эффекта. Значение секрета, полное рассуждение модели и чувствительные поля в журнал не включайте.

Копируемый шаблон инструкции

Реши задачу по данным ниже. Не делай предположений о пропущенных величинах. В финальном ответе выдай JSON {status, calculation, missing_inputs}. Если данных недостаточно, status="needs_input" и перечисли конкретные поля.
Общие правила:
1. Используй только переданные данные и разрешённые инструменты.
2. Не заполняй пропущенные значения догадкой.
3. Перед действием проверь идентификаторы, права и границы задачи.
4. При конфликте данных верни status=needs_review и назови конфликт.
5. Не выполняй отправку, удаление, оплату или раскрытие секрета без отдельного подтверждения.
6. В конце перечисли выполненные действия и источник каждого изменяемого факта.

Шаблон полезен именно как контракт. Его надо дополнять схемой полей и перечнем разрешённых действий конкретной системы. Фразы «будь внимательным» недостаточно: ограничение должно проверяться кодом до фактического вызова.

Реалистичный пример входа и ожидаемого результата

Вход: насос A перекачивает 12 л/мин, насос B — 18 л/мин. Нужно узнать время заполнения резервуара, но объём и режим совместной работы не указаны.

Ожидается final content со status=needs_input и полями tank_volume_liters и pumps_run_together. Число минут не вычисляется. Текст из message.thinking не подставляется в JSON результата.

Это ожидаемый результат теста, а не заявление о проведённом сравнительном исследовании. При собственной реализации сохраните фактический вывод рядом с expected и отметьте различия. Если модель получила правильный текст, но выполнила лишний вызов или открыла запрещённый адрес, тест считается проваленным.

Как проверять результат по уровням

Первый уровень — транспорт. Запрос завершился, ответ читается, идентификатор сохранён. HTTP 200 сам по себе не доказывает правильность. Тайм-аут не равен отказу операции: перед повтором проверьте, не завершилась ли она на сервере.

Второй уровень — структура. Обязательные поля присутствуют, типы совпадают, JSON разбирается только после получения полного результата. Неизвестные поля либо отклоняются, либо явно сохраняются отдельно. Пустая строка не превращается в ноль или «неизвестно» без правила.

Третий уровень — смысл. Сопоставьте каждый факт с входом или результатом инструмента. Числа пересчитайте обычным кодом. Идентификаторы сравните посимвольно. Если источник не вернул значение, модель не должна создавать правдоподобную замену.

Четвёртый уровень — действие. Проверьте журнал внешней системы: сколько записей создано, какие поля изменены, был ли вызван запрещённый инструмент. Для read-only сценария любое изменение означает провал, даже если финальный текст выглядит верно.

Контроль в рабочей системе