Гайд · TNWS AI
Как обучать MLPRegressor пакетами через partial_fit
Потоковое обучение регрессионной нейросети: Incremental StandardScaler, пять пакетов, 25 эпох, счётчик обновлений, t_ и независимый test.
Задача и применимость
Актуальный запрос: «как обучать MLPRegressor частями partial_fit». Выполнять последовательные обновления весов без единого полного fit. partial_fit делает одну итерацию на переданном пакете и доступен стохастическим solver. StandardScaler поддерживает собственный partial_fit, однако изменение его статистик во времени меняет координаты входа, поэтому учебный протокол сначала собирает scaler по train-пакетам, затем фиксирует его.
Материал применим к scikit-learn 1.8.0 и числовой регрессии на табличных данных. MLPRegressor — полносвязный многослойный перцептрон, который предсказывает непрерывные значения; это не классификатор и не генеративная модель. Пример использует синтетические данные, чтобы результат можно было повторить без внешних файлов, ключей и персональных сведений. Порог теста подтверждает именно код примера и не является обещанием для рабочего набора. Перед запуском убедитесь, что используется указанная версия API и отдельное воспроизводимое окружение с закреплёнными зависимостями.
Пошаговое решение
- Разделите только train на пять пакетов.
- Обучите scaler через partial_fit на всех train-пакетах.
- Сделайте 25 эпох MLP partial_fit по тем же пакетам.
- Проверьте 125 обновлений, накопительный t_ и test R².
Готовый проверяемый шаблон
from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split
X, y = make_regression(n_samples=600, n_features=8, n_informative=6,
noise=5.0, random_state=42)
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.25, random_state=42
)
import numpy as np
from sklearn.preprocessing import StandardScaler
from sklearn.neural_network import MLPRegressor
batches=np.array_split(np.arange(len(X_train)),5)
scaler=StandardScaler()
for ids in batches: scaler.partial_fit(X_train[ids])
model=MLPRegressor(hidden_layer_sizes=(24,), solver="adam", learning_rate_init=.01, random_state=42)
updates=0
for _ in range(30):
for ids in batches:
model.partial_fit(scaler.transform(X_train[ids]), y_train[ids]); updates+=1
score=model.score(scaler.transform(X_test),y_test)
assert updates==150
assert model.t_==len(X_train)*30
assert model.n_iter_==1
assert score>.85
print(updates, model.t_, round(score,3))
Вход и ожидаемый результат
450 train-строк проходят пятью пакетами 30 раз. Получается 150 вызовов partial_fit и t_=13500; n_iter_ после последнего partial_fit равен одной итерации этого вызова. Ожидаемый test R² выше 0,85.
Как проверить результат
Считайте вызовы самостоятельно и сверяйте t_. Зафиксируйте порядок batches. Для настоящего потока отдельно решите, когда переобучать scaler, как обнаруживать drift и как откатывать неудачное обновление.
Перенос на рабочую нейросеть
Перед заменой синтетики опишите единицу target, допустимый диапазон и момент времени, на который делается прогноз. Сформируйте признаки так, чтобы ни один столбец не содержал будущую информацию. Все преобразования X объединяйте с estimator в Pipeline, а преобразование y — в явно проверяемую обёртку. Зафиксируйте имена и порядок колонок, обработку пропусков, категории и версии данных. Разделяйте строки с учётом времени или групп, если обычный случайный split смешивает связанные наблюдения.
Критерии приёмки
- Train и test не пересекаются, индексы разбиения сохранены.
- Preprocessing обучается только на train.
- Prediction имеет ожидаемую форму, исходные единицы и только конечные значения.
- Модель превосходит заранее выбранный простой baseline.
- MAE или RMSE проверяется вместе с R² и хвостовой ошибкой.
- Повторный запуск в закреплённом окружении воспроизводит контрольный массив predictions.
Регрессионный протокол
Сохраните небольшой обезличенный набор X, y и ожидаемые predictions с численным допуском. После изменения данных или параметров сравните метрики, квантили residuals, число итераций, время fit и latency predict. Гиперпараметры выбирайте на validation либо внутри кросс-валидации; test используйте один раз для оценки окончательной процедуры. Не принимайте выпуск по лучшему случайному split: при небольшом наборе сообщайте разброс нескольких повторов.
Диагностика расхождений
При резком изменении результата проверяйте по порядку: версию набора, target, split, порядок и dtype столбцов, статистики scaler, версии NumPy/SciPy/scikit-learn, random_state, затем optimizer и архитектуру. Сравните одну сохранённую строку до и после preprocessing и prediction двух выпусков. Не увеличивайте сеть до выяснения причины: дополнительная ёмкость может скрыть утечку или усилить переобучение.
Контроль после внедрения
В эксплуатации журналируйте версию модели, схему и агрегированные показатели без исходных персональных признаков. Установите пределы для latency, доли невалидных входов и ошибок на отложенной разметке. Контролируйте drift признаков и residuals. При нарушении порога переключайтесь на предыдущий проверенный артефакт; автоматическое дообучение без независимой проверки не считается безопасным восстановлением.
Границы применимости
Отдельно проверьте область применимости. Интерполяция внутри знакомого диапазона признаков и прогноз для новых условий — разные режимы риска. Зафиксируйте минимумы, максимумы и долю входов вне train-диапазона. Не обрезайте такие значения молча: либо отклоняйте запрос по явному правилу, либо отмечайте низкую надёжность. Для денежных, медицинских и иных критичных величин задайте предметные ограничения результата после консультации с владельцем процесса, а не извлекайте их из случайного синтетического примера.
Типичные ошибки и чего не делать
- Не вызывайте обычный fit между обновлениями.
- Не обучайте scaler на будущих test-строках.
- Не считайте n_iter_ накопительным числом partial_fit-вызовов.
Не выбирайте конфигурацию по test и не публикуйте одну выгодную метрику без baseline и размера выборки. Не используйте чувствительные признаки без необходимости и правового основания. Для решений с материальными последствиями предусмотрите человеческую проверку, мониторинг и безопасный отказ.
FAQ
Сколько итераций делает partial_fit?
Одну итерацию по переданному пакету.
Работает ли с lbfgs?
Нет, нужен стохастический solver.
Что показывает t_?
Накопительное число увиденных обучающих примеров в оптимизаторе.
Официальные источники
Частые вопросы
Сколько итераций делает partial_fit?
Одну итерацию по переданному пакету.
Работает ли с lbfgs?
Нет, нужен стохастический solver.
Что показывает t_?
Накопительное число увиденных обучающих примеров в оптимизаторе.
Читайте также
Как использовать Poisson loss в MLPRegressor для положительного target
Poisson loss в scikit-learn 1.8: строго неотрицательный target, положительный прогноз через exponential link и воспроизводимый негативный тест.
Как масштабировать target MLPRegressor через TransformedTargetRegressor
StandardScaler для признаков и отдельное преобразование target через TransformedTargetRegressor с автоматическим inverse_transform прогноза.
Как обучить MLPRegressor со StandardScaler в Pipeline
Полносвязная нейросеть для числового прогноза: честный train/test split, StandardScaler внутри Pipeline, MAE, R² и проверка preprocessing.
Комментарии
Пока тихо. Скажите первое слово