Как сохранить и повторно загрузить SentenceTransformer локально

1. На машине с доступом к Hub загрузите именованный checkpoint и проверьте короткий вход.
2. Сохраните модель в отдельный каталог с меткой версии.
3. Перенесите весь каталог целиком на другую машину, не выбирая файлы вручную наугад.
4. Загрузите SentenceTransformer из локального пути.
5. Сравните форму и близость векторов контрольных текстов; отдельно проверьте отсутствие сетевой зависимости.

Подготовьте изолированное окружение и установите зафиксированный пакет: pip install "sentence-transformers==6.1.0". Библиотека потребует подходящих зависимостей и свободной памяти под выбранные веса; установка пакета не скачивает заранее любую модель. Перед тестом напечатайте установленную версию и зафиксируйте имя checkpoint. Не отправляйте в примеры клиентские имена, закрытые документы или ключи доступа.

Готовый шаблон

from sentence_transformers import SentenceTransformer
import numpy as np

name = "sentence-transformers/all-MiniLM-L6-v2"
texts = ["The parcel arrived late.", "Delivery was delayed."]
model = SentenceTransformer(name)
before = model.encode(texts)
model.save("./local_sentence_model")
restored = SentenceTransformer("./local_sentence_model", local_files_only=True)
after = restored.encode(texts)
print(before.shape, after.shape)
print(np.allclose(before, after, rtol=1e-4, atol=1e-5))

Запускайте первый раз на очень маленьком обезличенном наборе. Для каждой строки и документа сохраняйте стабильный ID: иначе невозможно выяснить, почему нейросеть выбрала конкретную запись. Если вывод отличается от ожидаемой формы, сначала проверьте состав входа, затем конфигурацию модели и только после этого настройки ранжирования. Не маскируйте ошибки ручной подстановкой заранее «правильного» ответа.

Конкретный вход и ожидаемый результат

Вход: две англоязычные фразы о доставке и папка ./local_sentence_model. Ожидается совпадение формы двух массивов и близкие числовые значения при загрузке сохранённого checkpoint в том же окружении. Если тест на отдельной офлайн-машине не прошёл, сначала проверяйте полноту файлов и версии зависимостей, не догружайте ресурсы тайно.

Проверяйте структуру отдельно от смысла. Массив верного размера не означает хорошего поиска, а высокий score не удостоверяет факт в документе. Сохраните реальные выводы программы и сопоставьте их с заранее размеченными эталонными ID. При переносе на другой корпус обновите проверочные данные; простая замена входного предложения в коде не доказывает обобщения метода.

Разбор метода и ограничений

Второй запуск по сетевому имени модели может использовать cache и создать иллюзию, что вы проверили локальный перенос. Поэтому передавайте именно путь к новой папке и установите local_files_only=True для проверки. На другой машине полезно ещё отключить сеть; данный тест в исходном окружении проверяет сериализацию, но не воспроизводит его изоляцию полностью. Для конкретного продукта сохраняйте отдельно манифест: ID исходного checkpoint, установленная версия Sentence Transformers, контрольная форма embeddings и текущая модель векторного индекса. Метод save не перенесёт автоматически индексы, набор пользовательских документов или таблицу прав доступа. Если вы изменили модель либо её конфигурацию, даже одинаковая размерность embeddings не делает старый индекс совместимым.

Дополнительный сценарий проверки

Создайте два контрольных теста: полная папка модели успешно загружается на чистой машине, неполная папка завершается явной ошибкой. Если библиотека предлагает fallback на загрузку из сети, local_files_only должен помогать обнаруживать недостающие файлы до эксплуатации. При сравнении before/after вычисления могут немного отличаться в зависимости от устройства, precision и версии backend; задайте разумный числовой допуск и также проверьте ранжирование тестовых запросов. Для приватных данных храните векторы и тексты отдельно с соответствующим контролем доступа, не пакуйте их случайно с публичными весами. Новую версию модели сначала разворачивайте рядом со старой, пересобирайте поисковый индекс и сравнивайте результаты, затем переключайте приложение с планом отката.

Критерии принятия