高维数据的特征凝聚

简介

本教程将演示如何使用特征凝聚来合并数据集中的相似特征。在处理高维数据集时，特征凝聚通过减少特征数量同时保留最重要的信息，非常有用。

虚拟机使用提示

虚拟机启动完成后，点击左上角切换到“笔记本”标签，以访问 Jupyter Notebook 进行练习。

有时，你可能需要等待几秒钟让 Jupyter Notebook 完成加载。由于 Jupyter Notebook 的限制，操作验证无法自动化。

如果你在学习过程中遇到问题，随时向 Labby 提问。课程结束后提供反馈，我们将立即为你解决问题。

导入库

在这一步中，我们将导入执行特征凝聚所需的库。

import numpy as np
import matplotlib.pyplot as plt

from sklearn import datasets, cluster
from sklearn.feature_extraction.image import grid_to_graph

加载数据集

在这一步中，我们将从 scikit-learn 中加载数字数据集。该数据集包含 0 到 9 的手写数字图像。

digits = datasets.load_digits()
images = digits.images
X = np.reshape(images, (len(images), -1))

定义连接矩阵

在这一步中，我们将使用 scikit-learn 中的grid_to_graph函数定义连接矩阵。此函数基于图像的像素网格创建一个连接图。

connectivity = grid_to_graph(*images[0].shape)

执行特征凝聚

在这一步中，我们将使用 scikit-learn 中的FeatureAgglomeration类执行特征凝聚。我们将把聚类数量设置为 32。

agglo = cluster.FeatureAgglomeration(connectivity=connectivity, n_clusters=32)
agglo.fit(X)
X_reduced = agglo.transform(X)

逆变换

在这一步中，我们将对降维后的数据集执行逆变换，以恢复原始的特征数量。

X_restored = agglo.inverse_transform(X_reduced)
images_restored = np.reshape(X_restored, images.shape)

可视化结果

在这一步中，我们将可视化原始图像、凝聚后的图像以及分配给每个聚类的标签。

plt.figure(1, figsize=(4, 3.5))
plt.clf()
plt.subplots_adjust(left=0.01, right=0.99, bottom=0.01, top=0.91)
for i in range(4):
    plt.subplot(3, 4, i + 1)
    plt.imshow(images[i], cmap=plt.cm.gray, vmax=16, interpolation="nearest")
    plt.xticks(())
    plt.yticks(())
    if i == 1:
        plt.title("Original data")
    plt.subplot(3, 4, 4 + i + 1)
    plt.imshow(images_restored[i], cmap=plt.cm.gray, vmax=16, interpolation="nearest")
    if i == 1:
        plt.title("Agglomerated data")
    plt.xticks(())
    plt.yticks(())

plt.subplot(3, 4, 10)
plt.imshow(
    np.reshape(agglo.labels_, images[0].shape),
    interpolation="nearest",
    cmap=plt.cm.nipy_spectral,
)
plt.xticks(())
plt.yticks(())
plt.title("Labels")
plt.show()

总结

在本教程中，我们学习了如何使用特征凝聚来合并数据集中的相似特征。通过减少特征数量，我们可以在保留数据集中最重要信息的同时，提高机器学习算法的性能。