Lasso e Rede Elástica

Introdução

Neste tutorial, aprenderemos sobre Lasso e Rede Elástica, técnicas utilizadas para regressão linear e implementadas usando descida de coordenadas. Aprenderemos a calcular caminhos de regularização usando Lasso e Rede Elástica, e como exibir os resultados usando matplotlib.

Dicas da Máquina Virtual

Após o arranque da VM, clique no canto superior esquerdo para mudar para a aba Notebook para aceder ao Jupyter Notebook para praticar.

Por vezes, pode ser necessário esperar alguns segundos para o Jupyter Notebook terminar de carregar. A validação das operações não pode ser automatizada devido a limitações no Jupyter Notebook.

Se tiver problemas durante o aprendizado, não hesite em contactar o Labby. Forneça feedback após a sessão e resolveremos o problema rapidamente para si.

Carregar o Conjunto de Dados

Neste passo, carregaremos o conjunto de dados de diabetes da biblioteca scikit-learn e padronizaremos os dados.

from sklearn import datasets

## Carregar o conjunto de dados de diabetes
X, y = datasets.load_diabetes(return_X_y=True)

## Padronizar os dados
X /= X.std(axis=0)

Calcular o Caminho de Regularização Usando Lasso

Neste passo, calcularemos o caminho de regularização usando a técnica Lasso e exibiremos os resultados usando matplotlib.

from sklearn.linear_model import lasso_path
import numpy as np
import matplotlib.pyplot as plt

## Definir o valor de eps
eps = 5e-3

## Calcular o caminho de regularização usando o Lasso
alphas_lasso, coefs_lasso, _ = lasso_path(X, y, eps=eps)

## Exibir os resultados usando matplotlib
plt.figure(1)
colors = cycle(["b", "r", "g", "c", "k"])
neg_log_alphas_lasso = -np.log10(alphas_lasso)
for coef_l, c in zip(coefs_lasso, colors):
    l1 = plt.plot(neg_log_alphas_lasso, coef_l, c=c)

plt.xlabel("-Log(alpha)")
plt.ylabel("coeficientes")
plt.title("Caminho Lasso")
plt.axis("tight")
plt.show()

Calcular o Caminho de Regularização Usando Lasso Positivo

Neste passo, calcularemos o caminho de regularização usando a técnica Lasso positivo e exibiremos os resultados usando matplotlib.

## Calcular o caminho de regularização usando o Lasso positivo
alphas_positive_lasso, coefs_positive_lasso, _ = lasso_path(X, y, eps=eps, positive=True)

## Exibir os resultados usando matplotlib
plt.figure(2)
neg_log_alphas_positive_lasso = -np.log10(alphas_positive_lasso)
for coef_l, coef_pl, c in zip(coefs_lasso, coefs_positive_lasso, colors):
    l1 = plt.plot(neg_log_alphas_lasso, coef_l, c=c)
    l2 = plt.plot(neg_log_alphas_positive_lasso, coef_pl, linestyle="--", c=c)

plt.xlabel("-Log(alpha)")
plt.ylabel("coeficientes")
plt.title("Lasso e Lasso Positivo")
plt.legend((l1[-1], l2[-1]), ("Lasso", "Lasso Positivo"), loc="lower left")
plt.axis("tight")
plt.show()

Calcular o Caminho de Regularização Usando Rede Elástica

Neste passo, calcularemos o caminho de regularização usando a técnica Rede Elástica e exibiremos os resultados usando matplotlib.

from sklearn.linear_model import enet_path

## Calcular o caminho de regularização usando a Rede Elástica
alphas_enet, coefs_enet, _ = enet_path(X, y, eps=eps, l1_ratio=0.8)

## Exibir os resultados usando matplotlib
plt.figure(3)
neg_log_alphas_enet = -np.log10(alphas_enet)
for coef_e, c in zip(coefs_enet, colors):
    l1 = plt.plot(neg_log_alphas_enet, coef_e, c=c)

plt.xlabel("-Log(alpha)")
plt.ylabel("coeficientes")
plt.title("Caminho da Rede Elástica")
plt.axis("tight")
plt.show()

Calcular o Caminho de Regularização Usando Rede Elástica Positiva

Neste passo, calcularemos o caminho de regularização usando a técnica Rede Elástica Positiva e exibiremos os resultados usando matplotlib.

## Calcular o caminho de regularização usando a Rede Elástica Positiva
alphas_positive_enet, coefs_positive_enet, _ = enet_path(X, y, eps=eps, l1_ratio=0.8, positive=True)

## Exibir os resultados usando matplotlib
plt.figure(4)
neg_log_alphas_positive_enet = -np.log10(alphas_positive_enet)
for coef_e, coef_pe, c in zip(coefs_enet, coefs_positive_enet, colors):
    l1 = plt.plot(neg_log_alphas_enet, coef_e, c=c)
    l2 = plt.plot(neg_log_alphas_positive_enet, coef_pe, linestyle="--", c=c)

plt.xlabel("-Log(alpha)")
plt.ylabel("coeficientes")
plt.title("Rede Elástica e Rede Elástica Positiva")
plt.legend((l1[-1], l2[-1]), ("Rede Elástica", "Rede Elástica Positiva"), loc="lower left")
plt.axis("tight")
plt.show()

Resumo

Neste tutorial, aprendemos sobre Lasso e Rede Elástica, técnicas utilizadas para regressão linear. Aprendemos como calcular caminhos de regularização usando Lasso e Rede Elástica, e como exibir os resultados usando matplotlib. Também aprendemos como calcular o caminho de regularização usando as técnicas de Lasso positivo e Rede Elástica positiva.