DBSCAN 聚类算法

Beginner

This tutorial is from open-source community. Access the source code

简介

在本实验中,我们将使用 DBSCAN(基于密度的带有噪声的空间聚类应用)算法对一个合成数据集进行聚类。DBSCAN 是一种聚类算法,它能识别高密度区域中的核心样本,并从这些样本扩展聚类。该算法对于包含相似密度聚类的数据很有用。

虚拟机使用提示

虚拟机启动完成后,点击左上角切换到“笔记本”标签页,以访问 Jupyter Notebook 进行练习。

有时,你可能需要等待几秒钟让 Jupyter Notebook 完成加载。由于 Jupyter Notebook 的限制,操作验证无法自动化。

如果你在学习过程中遇到问题,随时向 Labby 提问。课程结束后提供反馈,我们会及时为你解决问题。

数据生成

我们将使用 sklearn.datasets 模块中的 make_blobs 函数来生成一个包含三个聚类的合成数据集。该数据集将由 750 个样本组成,聚类标准差为 0.4。我们还将使用 sklearn.preprocessing 模块中的 StandardScaler 对数据进行标准化。

from sklearn.datasets import make_blobs
from sklearn.preprocessing import StandardScaler

centers = [[1, 1], [-1, -1], [1, -1]]
X, labels_true = make_blobs(
    n_samples=750, centers=centers, cluster_std=0.4, random_state=0
)

X = StandardScaler().fit_transform(X)

数据可视化

我们可以使用 matplotlib.pyplot 模块来可视化生成的数据。

import matplotlib.pyplot as plt

plt.scatter(X[:, 0], X[:, 1])
plt.show()

计算 DBSCAN

我们将使用 sklearn.cluster 模块中的 DBSCAN 类来计算聚类。我们将把 eps 参数设置为 0.3,把 min_samples 参数设置为 10。我们可以使用 labels_ 属性来获取由 DBSCAN 分配的标签。噪声样本被赋予标签 -1。我们还将计算聚类的数量和噪声点的数量。

import numpy as np
from sklearn.cluster import DBSCAN
from sklearn import metrics

db = DBSCAN(eps=0.3, min_samples=10).fit(X)
labels = db.labels_

n_clusters_ = len(set(labels)) - (1 if -1 in labels else 0)
n_noise_ = list(labels).count(-1)

print("Estimated number of clusters: %d" % n_clusters_)
print("Estimated number of noise points: %d" % n_noise_)

评估指标

我们可以使用评估指标来量化所得聚类的质量。我们将使用同质性、完整性、V 度量、调整兰德指数、调整互信息和轮廓系数等指标。我们将从 sklearn.metrics 模块中获取这些指标。如果真实标签未知,则只能使用模型结果本身进行评估。在这种情况下,轮廓系数就会派上用场。

print(f"同质性:{metrics.homogeneity_score(labels_true, labels):.3f}")
print(f"完整性:{metrics.completeness_score(labels_true, labels):.3f}")
print(f"V 度量:{metrics.v_measure_score(labels_true, labels):.3f}")
print(f"调整兰德指数:{metrics.adjusted_rand_score(labels_true, labels):.3f}")
print(f"调整互信息:{metrics.adjusted_mutual_info_score(labels_true, labels):.3f}")
print(f"轮廓系数:{metrics.silhouette_score(X, labels):.3f}")

绘制结果

我们将使用 matplotlib.pyplot 模块来绘制结果。核心样本(大圆点)和非核心样本(小圆点)根据分配的聚类进行颜色编码。被标记为噪声的样本用黑色表示。

unique_labels = set(labels)
core_samples_mask = np.zeros_like(labels, dtype=bool)
core_samples_mask[db.core_sample_indices_] = True

colors = [plt.cm.Spectral(each) for each in np.linspace(0, 1, len(unique_labels))]
for k, col in zip(unique_labels, colors):
    if k == -1:
        col = [0, 0, 0, 1]

    class_member_mask = labels == k

    xy = X[class_member_mask & core_samples_mask]
    plt.plot(
        xy[:, 0],
        xy[:, 1],
        "o",
        markerfacecolor=tuple(col),
        markeredgecolor="k",
        markersize=14,
    )

    xy = X[class_member_mask & ~core_samples_mask]
    plt.plot(
        xy[:, 0],
        xy[:, 1],
        "o",
        markerfacecolor=tuple(col),
        markeredgecolor="k",
        markersize=6,
    )

plt.title(f"估计的聚类数量:{n_clusters_}")
plt.show()

总结

在这个实验中,我们使用 DBSCAN 聚类算法对一个合成数据集进行聚类。我们生成了一个数据集,可视化了数据,计算了聚类,评估了指标,并绘制了结果。