Сравнение стратегий по уменьшению размерности

Beginner

This tutorial is from open-source community. Access the source code

Введение

Этот лаба сравнивает две стратегии понижения размерности: агломерацию признаков и отбор одномерных признаков с использованием ANOVA, в задаче регрессии с использованием BayesianRidge в качестве контролируемого оценивающего параметра.

Советы по работе с ВМ

После завершения запуска ВМ нажмите в левом верхнем углу, чтобы переключиться на вкладку Ноутбук, чтобы получить доступ к Jupyter Notebook для практики.

Иногда вам может потребоваться подождать несколько секунд, пока Jupyter Notebook не загрузится полностью. Валидация операций не может быть автоматизирована из-за ограничений Jupyter Notebook.

Если вы сталкиваетесь с проблемами во время обучения, не стесняйтесь обращаться к Labby. Оставьте отзыв после занятия, и мы оперативно решим проблему для вас.

Установка параметров

n_samples = 200
size = 40  ## размер изображения
roi_size = 15
snr = 5.0
np.random.seed(0)

Генерация данных

coef = np.zeros((size, size))
coef[0:roi_size, 0:roi_size] = -1.0
coef[-roi_size:, -roi_size:] = 1.0

X = np.random.randn(n_samples, size**2)
for x in X:  ## сглаживание данных
    x[:] = ndimage.gaussian_filter(x.reshape(size, size), sigma=1.0).ravel()
X -= X.mean(axis=0)
X /= X.std(axis=0)

y = np.dot(X, coef.ravel())

Добавление шума

noise = np.random.randn(y.shape[0])
noise_coef = (linalg.norm(y, 2) / np.exp(snr / 20.0)) / linalg.norm(noise, 2)
y += noise_coef * noise

Вычисление коэффициентов Bayesian Ridge с использованием GridSearch

cv = KFold(2)  ## генератор кросс-валидации для выбора модели
ridge = BayesianRidge()
cachedir = tempfile.mkdtemp()
mem = Memory(location=cachedir, verbose=1)

Агломерация Варда, за которой следует BayesianRidge

connectivity = grid_to_graph(n_x=size, n_y=size)
ward = FeatureAgglomeration(n_clusters=10, connectivity=connectivity, memory=mem)
clf = Pipeline([("ward", ward), ("ridge", ridge)])
## Выберите оптимальное количество участков с использованием grid search
clf = GridSearchCV(clf, {"ward__n_clusters": [10, 20, 30]}, n_jobs=1, cv=cv)
clf.fit(X, y)  ## установите наилучшие параметры
coef_ = clf.best_estimator_.steps[-1][1].coef_
coef_ = clf.best_estimator_.steps[0][1].inverse_transform(coef_)
coef_agglomeration_ = coef_.reshape(size, size)

Выбор признаков с использованием однофакторного дисперсионного анализа (ANOVA), за которым следует BayesianRidge

f_regression = mem.cache(feature_selection.f_regression)  ## кэширование функции
anova = feature_selection.SelectPercentile(f_regression)
clf = Pipeline([("anova", anova), ("ridge", ridge)])
## Выберите оптимальный процент признаков с использованием grid search
clf = GridSearchCV(clf, {"anova__percentile": [5, 10, 20]}, cv=cv)
clf.fit(X, y)  ## установите наилучшие параметры
coef_ = clf.best_estimator_.steps[-1][1].coef_
coef_ = clf.best_estimator_.steps[0][1].inverse_transform(coef_.reshape(1, -1))
coef_selection_ = coef_.reshape(size, size)

Построение графиков результатов на изображении

plt.close("all")
plt.figure(figsize=(7.3, 2.7))
plt.subplot(1, 3, 1)
plt.imshow(coef, interpolation="nearest", cmap=plt.cm.RdBu_r)
plt.title("True Weights")
plt.subplot(1, 3, 2)
plt.imshow(coef_selection_, interpolation="nearest", cmap=plt.cm.RdBu_r)
plt.title("Feature Selection")
plt.subplot(1, 3, 3)
plt.imshow(coef_agglomeration_, interpolation="nearest", cmap=plt.cm.RdBu_r)
plt.title("Feature Agglomeration")
plt.subplots_adjust(0.04, 0.0, 0.98, 0.94, 0.16, 0.26)
plt.show()

Резюме

В этом практическом занятии сравниваются две стратегии по уменьшению размерности: агломерация признаков и выбор признаков с использованием однофакторного дисперсионного анализа (ANOVA) в задаче регрессии с использованием BayesianRidge в качестве наивного оценивающего алгоритма. Результаты представлены на изображении и показывают истинные веса, выбор признаков и агломерацию признаков.