Как сбросить память smolagents между пользователями

До сетевого запуска установите smolagents, настройте HF_TOKEN или другой документированный способ аутентификации и вынесите идентификатор модели в HF_MODEL_ID. Не вставляйте действующий токен в код, prompt, скриншот или статью. Сначала выполните детерминированную часть примера без модели, затем интеграционный run. Так ошибка схемы или бизнес-логики не смешивается с изменчивым поведением LLM.

Готовый шаблон

import os
from smolagents import InferenceClientModel, ToolCallingAgent

model = InferenceClientModel(model_id=os.environ.get("HF_MODEL_ID", "Qwen/Qwen3-Next-80B-A3B-Thinking"), token=os.getenv("HF_TOKEN"))
agent = ToolCallingAgent(tools=[], model=model, max_steps=2)

first = agent.run("Запомни учебный маркер ALPHA-7.", reset=True)
second = agent.run("Повтори только текущий маркер BETA-9.", reset=True)
print(first)
print(second)
assert "ALPHA-7" not in str(second)

Конкретный вход и ожидаемые данные

Первый независимый вход содержит ALPHA-7, второй — BETA-9. Вторая выдача не должна содержать ALPHA-7. Для отдельного положительного теста продолжения запустите вопрос о предыдущем маркере с reset=False в той же тестовой сессии. Качество запоминания модели не является механизмом авторизации; главный критерий — какой контекст приложение ей передало.

Почему схема работает

Значение по умолчанию защищает типичный независимый run, но утечка всё равно возможна, если приложение вручную передаст чужую историю, общий tool cache или данные из внешнего хранилища. Поэтому тестируйте весь маршрут сессии. Для параллельных запросов не делите изменяемую память одного агента без синхронизации и архитектурной изоляции. Системный промпт после reset остаётся, так что он не должен содержать пользовательские секреты.

Фактическая проверка и пограничный случай

Запустите конкурентный тест, где два запроса начинают работу почти одновременно, и убедитесь, что общая память не перемешалась. Простого последовательного assert недостаточно для многопоточного сервера. Если каждый запрос создаёт новый агент, проверьте, что общий retriever всё равно применяет tenant-фильтр. После ошибки или отмены запроса также сбрасывайте состояние согласно жизненному циклу, иначе незавершённый шаг может попасть в следующий диалог.

Протокол воспроизводимости

Для каждого прогона запишите четыре независимых артефакта: точный обезличенный вход, ожидаемое действие, фактическое действие и предметно правильный результат. Не ограничивайтесь снимком финального ответа: он не показывает, был ли вызван нужный инструмент. Повторите опыт не менее трёх раз на одной модели с одинаковыми настройками, затем отдельно после смены версии. В отчёте различайте ошибку маршрутизации, неверный аргумент, сбой Python-кода и неподтверждённую генерацию. Если результат нестабилен, не выбирайте удачный прогон вручную: укажите долю успеха на фиксированном наборе. Настройки температуры и провайдера фиксируйте только если они действительно переданы вашему model-клиенту. Такой протокол позволяет повторить вывод и не превращает единичный удачный ответ в обещание качества.

Синтаксис Python проверяется до публикации через ast.parse. Выполнение с реальной моделью здесь не заявляется: без учётных данных нельзя честно подтвердить доступность конкретного inference provider и поведение модели. Проверяемая часть примера выполняется локально там, где она не требует LLM. Для сетевой части заранее запишите модель, версию smolagents, вход, ожидаемый tool call и предметный эталон, затем сохраните обезличенную трассу.