Гайд · TNWS AI

Как масштабировать target MLPRegressor через TransformedTargetRegressor

4 мин—

StandardScaler для признаков и отдельное преобразование target через TransformedTargetRegressor с автоматическим inverse_transform прогноза.

Задача и применимость

Актуальный запрос: «как масштабировать y target для MLPRegressor». Обучить нейросеть на стандартизированном target, но получать predictions в исходных единицах. TransformedTargetRegressor преобразует y во время fit и автоматически делает inverse transform после predict. Это важнее ручного масштабирования: ручной код легко забывает обратное преобразование или обучает target-scaler на полном наборе.

Материал применим к scikit-learn 1.8.0 и числовой регрессии на табличных данных. MLPRegressor — полносвязный многослойный перцептрон, который предсказывает непрерывные значения; это не классификатор и не генеративная модель. Пример использует синтетические данные, чтобы результат можно было повторить без внешних файлов, ключей и персональных сведений. Порог теста подтверждает именно код примера и не является обещанием для рабочего набора. Перед запуском убедитесь, что используется указанная версия API и отдельное воспроизводимое окружение с закреплёнными зависимостями.

Пошаговое решение

  1. Соберите Pipeline для масштабирования X и MLPRegressor.
  2. Передайте его в TransformedTargetRegressor с StandardScaler для y.
  3. Выполните fit только на train.
  4. Проверьте predictions в исходных единицах и внутренние стандартизированные значения.

Готовый проверяемый шаблон

from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split

X, y = make_regression(n_samples=600, n_features=8, n_informative=6,
                       noise=5.0, random_state=42)
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.25, random_state=42
)
import numpy as np
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.neural_network import MLPRegressor
from sklearn.compose import TransformedTargetRegressor
from sklearn.metrics import root_mean_squared_error

base = make_pipeline(StandardScaler(), MLPRegressor(
    hidden_layer_sizes=(24,), solver="lbfgs", max_iter=2000, random_state=42
))
model = TransformedTargetRegressor(regressor=base, transformer=StandardScaler())
model.fit(X_train, y_train)
pred = model.predict(X_test)
assert pred.shape == y_test.shape
assert abs(model.transformer_.transform(y_train.reshape(-1,1)).mean()) < 1e-12
assert root_mean_squared_error(y_test, pred) < 25
assert np.abs(pred).mean() > 1
print(round(root_mean_squared_error(y_test, pred), 2))

Вход и ожидаемый результат

Target исходно измеряется десятками и сотнями условных единиц. Внутренний StandardScaler приводит train-target примерно к нулевому среднему, но model.predict возвращает 150 значений в исходном масштабе. Ожидаемый RMSE меньше 25.

Как проверить результат

Сравните среднее преобразованного y_train с нулём, а форму и порядок predictions — с y_test. Дополнительно вручную вызовите внутренний regressor и inverse_transform на нескольких строках: результат должен совпасть с внешним predict.

Перенос на рабочую нейросеть

Перед заменой синтетики опишите единицу target, допустимый диапазон и момент времени, на который делается прогноз. Сформируйте признаки так, чтобы ни один столбец не содержал будущую информацию. Все преобразования X объединяйте с estimator в Pipeline, а преобразование y — в явно проверяемую обёртку. Зафиксируйте имена и порядок колонок, обработку пропусков, категории и версии данных. Разделяйте строки с учётом времени или групп, если обычный случайный split смешивает связанные наблюдения.

Критерии приёмки

  1. Train и test не пересекаются, индексы разбиения сохранены.
  2. Preprocessing обучается только на train.
  3. Prediction имеет ожидаемую форму, исходные единицы и только конечные значения.
  4. Модель превосходит заранее выбранный простой baseline.
  5. MAE или RMSE проверяется вместе с R² и хвостовой ошибкой.
  6. Повторный запуск в закреплённом окружении воспроизводит контрольный массив predictions.

Регрессионный протокол

Сохраните небольшой обезличенный набор X, y и ожидаемые predictions с численным допуском. После изменения данных или параметров сравните метрики, квантили residuals, число итераций, время fit и latency predict. Гиперпараметры выбирайте на validation либо внутри кросс-валидации; test используйте один раз для оценки окончательной процедуры. Не принимайте выпуск по лучшему случайному split: при небольшом наборе сообщайте разброс нескольких повторов.

Диагностика расхождений

При резком изменении результата проверяйте по порядку: версию набора, target, split, порядок и dtype столбцов, статистики scaler, версии NumPy/SciPy/scikit-learn, random_state, затем optimizer и архитектуру. Сравните одну сохранённую строку до и после preprocessing и prediction двух выпусков. Не увеличивайте сеть до выяснения причины: дополнительная ёмкость может скрыть утечку или усилить переобучение.

Контроль после внедрения

В эксплуатации журналируйте версию модели, схему и агрегированные показатели без исходных персональных признаков. Установите пределы для latency, доли невалидных входов и ошибок на отложенной разметке. Контролируйте drift признаков и residuals. При нарушении порога переключайтесь на предыдущий проверенный артефакт; автоматическое дообучение без независимой проверки не считается безопасным восстановлением.

Границы применимости

Отдельно проверьте область применимости. Интерполяция внутри знакомого диапазона признаков и прогноз для новых условий — разные режимы риска. Зафиксируйте минимумы, максимумы и долю входов вне train-диапазона. Не обрезайте такие значения молча: либо отклоняйте запрос по явному правилу, либо отмечайте низкую надёжность. Для денежных, медицинских и иных критичных величин задайте предметные ограничения результата после консультации с владельцем процесса, а не извлекайте их из случайного синтетического примера.

Типичные ошибки и чего не делать

  • Не обучайте target transformer на полном y.
  • Не сравнивайте стандартизированный prediction с исходным y.
  • Не применяйте log-transform к отрицательному target без изменения постановки.

Не выбирайте конфигурацию по test и не публикуйте одну выгодную метрику без baseline и размера выборки. Не используйте чувствительные признаки без необходимости и правового основания. Для решений с материальными последствиями предусмотрите человеческую проверку, мониторинг и безопасный отказ.

FAQ

Что делает inverse_transform?

Возвращает прогноз из внутреннего масштаба в исходные единицы target.

Масштабируется ли X этим классом?

Нет, X обрабатывает вложенный Pipeline.

Нужно ли вручную преобразовывать y_test?

Нет для обычного predict и оценки в исходных единицах.

Официальные источники

Частые вопросы

Что делает inverse_transform?

Возвращает прогноз из внутреннего масштаба в исходные единицы target.

Масштабируется ли X этим классом?

Нет, X обрабатывает вложенный Pipeline.

Нужно ли вручную преобразовывать y_test?

Нет для обычного predict и оценки в исходных единицах.

Читайте также

Комментарии

Пока тихо. Скажите первое слово