Гайд · TNWS AI
Как рассчитать partial dependence для MLPRegressor
Численный partial dependence для одного признака: grid_values, average prediction, Pipeline, проверка shape и ограничения причинной интерпретации.
Задача и применимость
Актуальный запрос: «как построить partial dependence MLPRegressor без графика». Получить усреднённую зависимость prediction от одного признака без ручного построения десятков изменённых таблиц. partial_dependence меняет выбранный признак по сетке и усредняет ответы модели по остальным наблюдениям. Метод описывает поведение estimator на данных, но не доказывает причинность. При сильной корреляции сетка может создавать нереалистичные сочетания признаков.
Материал применим к scikit-learn 1.8.0 и числовой регрессии на табличных данных. MLPRegressor — полносвязный многослойный перцептрон, который предсказывает непрерывные значения; это не классификатор и не генеративная модель. Пример использует синтетические данные, чтобы результат можно было повторить без внешних файлов, ключей и персональных сведений. Порог теста подтверждает именно код примера и не является обещанием для рабочего набора. Перед запуском убедитесь, что используется указанная версия API и отдельное воспроизводимое окружение с закреплёнными зависимостями.
Пошаговое решение
- Обучите полный Pipeline на train.
- Вызовите partial_dependence для признака с индексом 0.
- Получите grid_values и average из Bunch результата.
- Проверьте согласованную длину, конечность и диапазон сетки.
Готовый проверяемый шаблон
from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split
X, y = make_regression(n_samples=600, n_features=8, n_informative=6,
noise=5.0, random_state=42)
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.25, random_state=42
)
import numpy as np
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.neural_network import MLPRegressor
from sklearn.inspection import partial_dependence
model=make_pipeline(StandardScaler(),MLPRegressor(hidden_layer_sizes=(8,),solver="lbfgs",max_iter=2000,random_state=42))
model.fit(X_train,y_train)
pd=partial_dependence(model,X_test,features=[0],grid_resolution=20,kind="average")
grid=pd["grid_values"][0]; average=pd["average"][0]
assert grid.ndim==1 and average.shape==grid.shape
assert 2 <= len(grid) <= 20
assert np.isfinite(average).all()
assert grid.min() >= X_test[:,0].min() and grid.max() <= X_test[:,0].max()
print(len(grid), round(float(average[0]),2), round(float(average[-1]),2))
Вход и ожидаемый результат
Результат содержит до 20 значений сетки первого признака и столько же средних predictions. Все числа конечны, а границы сетки лежат внутри наблюдаемого test-диапазона. Начальное и конечное среднее не являются индивидуальными прогнозами.
Как проверить результат
Подпишите индекс реальным именем и единицей признака. Сравните PDP на train и test, проверьте корреляции и дополните ICE для неоднородных объектов. Не экстраполируйте вывод за диапазон grid.
Перенос на рабочую нейросеть
Перед заменой синтетики опишите единицу target, допустимый диапазон и момент времени, на который делается прогноз. Сформируйте признаки так, чтобы ни один столбец не содержал будущую информацию. Все преобразования X объединяйте с estimator в Pipeline, а преобразование y — в явно проверяемую обёртку. Зафиксируйте имена и порядок колонок, обработку пропусков, категории и версии данных. Разделяйте строки с учётом времени или групп, если обычный случайный split смешивает связанные наблюдения.
Критерии приёмки
- Train и test не пересекаются, индексы разбиения сохранены.
- Preprocessing обучается только на train.
- Prediction имеет ожидаемую форму, исходные единицы и только конечные значения.
- Модель превосходит заранее выбранный простой baseline.
- MAE или RMSE проверяется вместе с R² и хвостовой ошибкой.
- Повторный запуск в закреплённом окружении воспроизводит контрольный массив predictions.
Регрессионный протокол
Сохраните небольшой обезличенный набор X, y и ожидаемые predictions с численным допуском. После изменения данных или параметров сравните метрики, квантили residuals, число итераций, время fit и latency predict. Гиперпараметры выбирайте на validation либо внутри кросс-валидации; test используйте один раз для оценки окончательной процедуры. Не принимайте выпуск по лучшему случайному split: при небольшом наборе сообщайте разброс нескольких повторов.
Диагностика расхождений
При резком изменении результата проверяйте по порядку: версию набора, target, split, порядок и dtype столбцов, статистики scaler, версии NumPy/SciPy/scikit-learn, random_state, затем optimizer и архитектуру. Сравните одну сохранённую строку до и после preprocessing и prediction двух выпусков. Не увеличивайте сеть до выяснения причины: дополнительная ёмкость может скрыть утечку или усилить переобучение.
Контроль после внедрения
В эксплуатации журналируйте версию модели, схему и агрегированные показатели без исходных персональных признаков. Установите пределы для latency, доли невалидных входов и ошибок на отложенной разметке. Контролируйте drift признаков и residuals. При нарушении порога переключайтесь на предыдущий проверенный артефакт; автоматическое дообучение без независимой проверки не считается безопасным восстановлением.
Границы применимости
Отдельно проверьте область применимости. Интерполяция внутри знакомого диапазона признаков и прогноз для новых условий — разные режимы риска. Зафиксируйте минимумы, максимумы и долю входов вне train-диапазона. Не обрезайте такие значения молча: либо отклоняйте запрос по явному правилу, либо отмечайте низкую надёжность. Для денежных, медицинских и иных критичных величин задайте предметные ограничения результата после консультации с владельцем процесса, а не извлекайте их из случайного синтетического примера.
Типичные ошибки и чего не делать
- Не называйте PDP причинным эффектом.
- Не игнорируйте коррелированные признаки и нереалистичные комбинации.
- Не путайте average с prediction конкретной строки.
Не выбирайте конфигурацию по test и не публикуйте одну выгодную метрику без baseline и размера выборки. Не используйте чувствительные признаки без необходимости и правового основания. Для решений с материальными последствиями предусмотрите человеческую проверку, мониторинг и безопасный отказ.
FAQ
Что усредняется?
Прогнозы модели по наблюдениям при фиксированном значении выбранного признака.
Это причинная зависимость?
Нет, это инструмент инспекции fitted-модели.
Зачем grid_resolution?
Ограничить число точек, в которых оценивается зависимость.
Официальные источники
Частые вопросы
Что усредняется?
Прогнозы модели по наблюдениям при фиксированном значении выбранного признака.
Это причинная зависимость?
Нет, это инструмент инспекции fitted-модели.
Зачем grid_resolution?
Ограничить число точек, в которых оценивается зависимость.
Читайте также
Как использовать Poisson loss в MLPRegressor для положительного target
Poisson loss в scikit-learn 1.8: строго неотрицательный target, положительный прогноз через exponential link и воспроизводимый негативный тест.
Как масштабировать target MLPRegressor через TransformedTargetRegressor
StandardScaler для признаков и отдельное преобразование target через TransformedTargetRegressor с автоматическим inverse_transform прогноза.
Как обучать MLPRegressor пакетами через partial_fit
Потоковое обучение регрессионной нейросети: Incremental StandardScaler, пять пакетов, 25 эпох, счётчик обновлений, t_ и независимый test.
Комментарии
Пока тихо. Скажите первое слово