Построение конвейеров в Scikit-Learn

Введение

Этот лаба представляет собой пошаговое руководство по построению и отображению конвейеров в Scikit-Learn.

Советы по ВМ

После завершения запуска ВМ нажмите в левом верхнем углу, чтобы переключиться на вкладку Ноутбук, чтобы получить доступ к Jupyter Notebook для практики.

Иногда вам может потребоваться подождать несколько секунд, пока Jupyter Notebook не загрузится полностью. Валидация операций не может быть автоматизирована из-за ограничений в Jupyter Notebook.

Если вы сталкиваетесь с проблемами во время обучения, не стесняйтесь обращаться к Labby. Оставьте отзыв после занятия, и мы оперативно решим проблему для вас.

Построение простого конвейера с этапом предварительной обработки и классификатором

В этом шаге мы построим простой конвейер с этапом предварительной обработки и классификатором, и покажем его визуальное представление.

Во - первых, импортируем необходимые модули:

from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn import set_config

Далее определяем шаги конвейера:

steps = [
    ("preprocessing", StandardScaler()),
    ("classifier", LogisticRegression()),
]

Затем создаем конвейер:

pipe = Pipeline(steps)

Наконец, показываем визуальное представление конвейера:

set_config(display="diagram")
pipe

Построение конвейера, объединяющего несколько этапов предварительной обработки и классификатор

В этом шаге мы построим конвейер с несколькими этапами предварительной обработки и классификатором, и покажем его визуальное представление.

Во - первых, импортируем необходимые модули:

from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler, PolynomialFeatures
from sklearn.linear_model import LogisticRegression

Далее определяем шаги конвейера:

steps = [
    ("standard_scaler", StandardScaler()),
    ("polynomial", PolynomialFeatures(degree=3)),
    ("classifier", LogisticRegression(C=2.0)),
]

Затем создаем конвейер:

pipe = Pipeline(steps)

Наконец, показываем визуальное представление конвейера:

pipe

Построение конвейера с уменьшением размерности и классификатором

В этом шаге мы построим конвейер с этапом уменьшения размерности и классификатором, и покажем его визуальное представление.

Во - первых, импортируем необходимые модули:

from sklearn.pipeline import Pipeline
from sklearn.svm import SVC
from sklearn.decomposition import PCA

Далее определяем шаги конвейера:

steps = [("reduce_dim", PCA(n_components=4)), ("classifier", SVC(kernel="linear"))]

Затем создаем конвейер:

pipe = Pipeline(steps)

Наконец, показываем визуальное представление конвейера:

pipe

Построение сложного конвейера, объединяющего трансформер столбцов

В этом шаге мы построим сложный конвейер с трансформером столбцов и классификатором, и покажем его визуальное представление.

Во - первых, импортируем необходимые модули:

import numpy as np
from sklearn.pipeline import make_pipeline
from sklearn.pipeline import Pipeline
from sklearn.impute import SimpleImputer
from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import OneHotEncoder, StandardScaler
from sklearn.linear_model import LogisticRegression

Далее определяем этапы предварительной обработки для числовых и категориальных признаков:

numeric_preprocessor = Pipeline(
    steps=[
        ("imputation_mean", SimpleImputer(missing_values=np.nan, strategy="mean")),
        ("scaler", StandardScaler()),
    ]
)

categorical_preprocessor = Pipeline(
    steps=[
        (
            "imputation_constant",
            SimpleImputer(fill_value="missing", strategy="constant"),
        ),
        ("onehot", OneHotEncoder(handle_unknown="ignore")),
    ]
)

Затем создаем трансформер столбцов:

preprocessor = ColumnTransformer(
    [
        ("categorical", categorical_preprocessor, ["state", "gender"]),
        ("numerical", numeric_preprocessor, ["age", "weight"]),
    ]
)

Далее создаем конвейер:

pipe = make_pipeline(preprocessor, LogisticRegression(max_iter=500))

Наконец, показываем визуальное представление конвейера:

pipe

Построение сеточного поиска для конвейера с классификатором

В этом шаге мы построим сеточный поиск для конвейера с классификатором и покажем его визуальное представление.

Во - первых, импортируем необходимые модули:

import numpy as np
from sklearn.pipeline import make_pipeline
from sklearn.pipeline import Pipeline
from sklearn.impute import SimpleImputer
from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import OneHotEncoder, StandardScaler
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import GridSearchCV

Далее определяем этапы предварительной обработки для числовых и категориальных признаков:

numeric_preprocessor = Pipeline(
    steps=[
        ("imputation_mean", SimpleImputer(missing_values=np.nan, strategy="mean")),
        ("scaler", StandardScaler()),
    ]
)

categorical_preprocessor = Pipeline(
    steps=[
        (
            "imputation_constant",
            SimpleImputer(fill_value="missing", strategy="constant"),
        ),
        ("onehot", OneHotEncoder(handle_unknown="ignore")),
    ]
)

Затем создаем трансформер столбцов:

preprocessor = ColumnTransformer(
    [
        ("categorical", categorical_preprocessor, ["state", "gender"]),
        ("numerical", numeric_preprocessor, ["age", "weight"]),
    ]
)

Далее создаем конвейер:

pipe = Pipeline(
    steps=[("preprocessor", preprocessor), ("classifier", RandomForestClassifier())]
)

Затем определяем сетку параметров для сеточного поиска:

param_grid = {
    "classifier__n_estimators": [200, 500],
    "classifier__max_features": ["auto", "sqrt", "log2"],
    "classifier__max_depth": [4, 5, 6, 7, 8],
    "classifier__criterion": ["gini", "entropy"],
}

Наконец, создаем сеточный поиск:

grid_search = GridSearchCV(pipe, param_grid=param_grid, n_jobs=1)

И показываем визуальное представление сеточного поиска:

grid_search

Резюме

В этом практическом занятии был представлен пошаговый гайд по построению и отображению конвейеров в Scikit-Learn. Мы рассмотрели простые конвейеры с этапом предварительной обработки и классификатором, конвейеры, объединяющие несколько этапов предварительной обработки и классификатор, конвейеры с уменьшением размерности и классификатором, сложные конвейеры, объединяющие трансформер столбцов и классификатор, а также сеточные поиски для конвейеров с классификатором.