Introducción
En este laboratorio, aprenderemos a usar la biblioteca scikit-learn de Python para realizar el ajuste de estimadores lineales robustos. Ajustaremos una función seno con un polinomio de tercer orden para valores cercanos a cero y demostraremos el ajuste robusto en diferentes situaciones. Usaremos la desviación absoluta mediana para no corromper nuevos datos y juzgar la calidad de la predicción.
Consejos sobre la VM
Una vez que se haya iniciado la VM, haga clic en la esquina superior izquierda para cambiar a la pestaña Cuaderno y acceder a Jupyter Notebook para practicar.
A veces, es posible que tenga que esperar unos segundos a que Jupyter Notebook termine de cargarse. La validación de las operaciones no se puede automatizar debido a las limitaciones de Jupyter Notebook.
Si tiene problemas durante el aprendizaje, no dude en preguntar a Labby. Deje sus comentarios después de la sesión y lo resolveremos rápidamente para usted.
Importar las bibliotecas necesarias y generar datos
En primer lugar, necesitamos importar las bibliotecas necesarias y generar datos para nuestro ajuste. Generaremos una función seno con algo de ruido y corruptiremos los datos al introducir errores tanto en X como en y.
from matplotlib import pyplot as plt
import numpy as np
from sklearn.linear_model import (
LinearRegression,
TheilSenRegressor,
RANSACRegressor,
HuberRegressor,
)
from sklearn.metrics import mean_squared_error
from sklearn.preprocessing import PolynomialFeatures
from sklearn.pipeline import make_pipeline
np.random.seed(42)
X = np.random.normal(size=400)
y = np.sin(X)
## Asegúrese de que X sea 2D
X = X[:, np.newaxis]
X_test = np.random.normal(size=200)
y_test = np.sin(X_test)
X_test = X_test[:, np.newaxis]
y_errors = y.copy()
y_errors[::3] = 3
X_errors = X.copy()
X_errors[::3] = 3
y_errors_large = y.copy()
y_errors_large[::3] = 10
X_errors_large = X.copy()
X_errors_large[::3] = 10
Ajustar una función seno con un polinomio de tercer orden
Ajustaremos una función seno con un polinomio de tercer orden para valores cercanos a cero.
x_plot = np.linspace(X.min(), X.max())
Demostrar el ajuste robusto en diferentes situaciones
Ahora demostraremos el ajuste robusto en diferentes situaciones utilizando cuatro estimadores diferentes: OLS, Theil-Sen, RANSAC y HuberRegressor.
estimators = [
("OLS", LinearRegression()),
("Theil-Sen", TheilSenRegressor(random_state=42)),
("RANSAC", RANSACRegressor(random_state=42)),
("HuberRegressor", HuberRegressor()),
]
colors = {
"OLS": "turquesa",
"Theil-Sen": "dorado",
"RANSAC": "verde claro",
"HuberRegressor": "negro",
}
linestyle = {"OLS": "-", "Theil-Sen": "-.", "RANSAC": "--", "HuberRegressor": "--"}
lw = 3
Graficar los resultados
Ahora graficaremos los resultados para cada una de las diferentes situaciones.
for title, this_X, this_y in [
("Modeling Errors Only", X, y),
("Corrupt X, Small Deviants", X_errors, y),
("Corrupt y, Small Deviants", X, y_errors),
("Corrupt X, Large Deviants", X_errors_large, y),
("Corrupt y, Large Deviants", X, y_errors_large),
]:
plt.figure(figsize=(5, 4))
plt.plot(this_X[:, 0], this_y, "b+")
for name, estimator in estimators:
model = make_pipeline(PolynomialFeatures(3), estimator)
model.fit(this_X, this_y)
mse = mean_squared_error(model.predict(X_test), y_test)
y_plot = model.predict(x_plot[:, np.newaxis])
plt.plot(
x_plot,
y_plot,
color=colors[name],
linestyle=linestyle[name],
linewidth=lw,
label="%s: error = %.3f" % (name, mse),
)
legend_title = "Error of Mean\nAbsolute Deviation\nto Non-corrupt Data"
legend = plt.legend(
loc="upper right", frameon=False, title=legend_title, prop=dict(size="x-small")
)
plt.xlim(-4, 10.2)
plt.ylim(-2, 10.2)
plt.title(title)
plt.show()
Resumen
En este laboratorio, aprendimos cómo utilizar la biblioteca scikit-learn de Python para realizar ajustes de estimadores lineales robustos. Ajustamos una función seno con un polinomio de tercer orden para valores cercanos a cero y demostramos el ajuste robusto en diferentes situaciones. Utilizamos la desviación absoluta mediana con respecto a nuevos datos no corruptos para juzgar la calidad de la predicción.