Гайд · TNWS AI

Как обучить MLPRegressor со StandardScaler в Pipeline

4 мин—

Полносвязная нейросеть для числового прогноза: честный train/test split, StandardScaler внутри Pipeline, MAE, R² и проверка preprocessing.

Задача и применимость

Актуальный запрос: «как обучить MLPRegressor StandardScaler Pipeline». Построить воспроизводимую регрессионную нейросеть для табличных признаков и не допустить утечку статистик test в масштабирование. MLPRegressor возвращает непрерывное число, а не класс или вероятность. StandardScaler должен обучаться только на train. Pipeline связывает преобразование и estimator, поэтому predict принимает признаки в исходном масштабе.

Материал применим к scikit-learn 1.8.0 и числовой регрессии на табличных данных. MLPRegressor — полносвязный многослойный перцептрон, который предсказывает непрерывные значения; это не классификатор и не генеративная модель. Пример использует синтетические данные, чтобы результат можно было повторить без внешних файлов, ключей и персональных сведений. Порог теста подтверждает именно код примера и не является обещанием для рабочего набора. Перед запуском убедитесь, что используется указанная версия API и отдельное воспроизводимое окружение с закреплёнными зависимостями.

Пошаговое решение

  1. Создайте числовой набор и зафиксируйте train/test split.
  2. Объедините StandardScaler и MLPRegressor в make_pipeline.
  3. Обучите Pipeline только на train.
  4. Рассчитайте R² и MAE на test и проверьте статистики scaler.

Готовый проверяемый шаблон

from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split

X, y = make_regression(n_samples=600, n_features=8, n_informative=6,
                       noise=5.0, random_state=42)
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.25, random_state=42
)
import numpy as np
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.neural_network import MLPRegressor
from sklearn.metrics import mean_absolute_error

model = make_pipeline(StandardScaler(), MLPRegressor(
    hidden_layer_sizes=(8,), solver="lbfgs", max_iter=2000, random_state=42
))
model.fit(X_train, y_train)
pred = model.predict(X_test)
r2 = model.score(X_test, y_test)
mae = mean_absolute_error(y_test, pred)
np.testing.assert_allclose(model[0].mean_, X_train.mean(axis=0))
assert r2 > 0.95 and mae < 20
print(round(r2, 3), round(mae, 2))

Вход и ожидаемый результат

Вход — 600 строк, восемь числовых признаков и один непрерывный target. После разбиения в train остаётся 450 строк. Ожидается вектор из 150 predictions, R² выше 0,95 и MAE меньше 20 на фиксированных данных.

Как проверить результат

Сравните model[0].mean_ со средним X_train и убедитесь, что test не участвовал в fit scaler. Проверьте форму predictions, конечность значений и обе метрики. Порог примера применим только к этому синтетическому набору.

Перенос на рабочую нейросеть

Перед заменой синтетики опишите единицу target, допустимый диапазон и момент времени, на который делается прогноз. Сформируйте признаки так, чтобы ни один столбец не содержал будущую информацию. Все преобразования X объединяйте с estimator в Pipeline, а преобразование y — в явно проверяемую обёртку. Зафиксируйте имена и порядок колонок, обработку пропусков, категории и версии данных. Разделяйте строки с учётом времени или групп, если обычный случайный split смешивает связанные наблюдения.

Критерии приёмки

  1. Train и test не пересекаются, индексы разбиения сохранены.
  2. Preprocessing обучается только на train.
  3. Prediction имеет ожидаемую форму, исходные единицы и только конечные значения.
  4. Модель превосходит заранее выбранный простой baseline.
  5. MAE или RMSE проверяется вместе с R² и хвостовой ошибкой.
  6. Повторный запуск в закреплённом окружении воспроизводит контрольный массив predictions.

Регрессионный протокол

Сохраните небольшой обезличенный набор X, y и ожидаемые predictions с численным допуском. После изменения данных или параметров сравните метрики, квантили residuals, число итераций, время fit и latency predict. Гиперпараметры выбирайте на validation либо внутри кросс-валидации; test используйте один раз для оценки окончательной процедуры. Не принимайте выпуск по лучшему случайному split: при небольшом наборе сообщайте разброс нескольких повторов.

Диагностика расхождений

При резком изменении результата проверяйте по порядку: версию набора, target, split, порядок и dtype столбцов, статистики scaler, версии NumPy/SciPy/scikit-learn, random_state, затем optimizer и архитектуру. Сравните одну сохранённую строку до и после preprocessing и prediction двух выпусков. Не увеличивайте сеть до выяснения причины: дополнительная ёмкость может скрыть утечку или усилить переобучение.

Контроль после внедрения

В эксплуатации журналируйте версию модели, схему и агрегированные показатели без исходных персональных признаков. Установите пределы для latency, доли невалидных входов и ошибок на отложенной разметке. Контролируйте drift признаков и residuals. При нарушении порога переключайтесь на предыдущий проверенный артефакт; автоматическое дообучение без независимой проверки не считается безопасным восстановлением.

Границы применимости

Отдельно проверьте область применимости. Интерполяция внутри знакомого диапазона признаков и прогноз для новых условий — разные режимы риска. Зафиксируйте минимумы, максимумы и долю входов вне train-диапазона. Не обрезайте такие значения молча: либо отклоняйте запрос по явному правилу, либо отмечайте низкую надёжность. Для денежных, медицинских и иных критичных величин задайте предметные ограничения результата после консультации с владельцем процесса, а не извлекайте их из случайного синтетического примера.

Типичные ошибки и чего не делать

  • Не масштабируйте весь X до разбиения.
  • Не применяйте отдельный scaler к test.
  • Не интерпретируйте score как accuracy: для regressor это R².

Не выбирайте конфигурацию по test и не публикуйте одну выгодную метрику без baseline и размера выборки. Не используйте чувствительные признаки без необходимости и правового основания. Для решений с материальными последствиями предусмотрите человеческую проверку, мониторинг и безопасный отказ.

FAQ

Что возвращает predict?

Непрерывное числовое значение для каждой строки.

Что возвращает score?

Коэффициент детерминации R².

Зачем Pipeline?

Чтобы preprocessing обучался и применялся согласованно вместе с моделью.

Официальные источники

Частые вопросы

Что возвращает predict?

Непрерывное числовое значение для каждой строки.

Что возвращает score?

Коэффициент детерминации R².

Зачем Pipeline?

Чтобы preprocessing обучался и применялся согласованно вместе с моделью.

Читайте также

Комментарии

Пока тихо. Скажите первое слово