简介
在本实验中,我们将使用 DBSCAN(基于密度的带有噪声的空间聚类应用)算法对一个合成数据集进行聚类。DBSCAN 是一种聚类算法,它能识别高密度区域中的核心样本,并从这些样本扩展聚类。该算法对于包含相似密度聚类的数据很有用。
虚拟机使用提示
虚拟机启动完成后,点击左上角切换到“笔记本”标签页,以访问 Jupyter Notebook 进行练习。
有时,你可能需要等待几秒钟让 Jupyter Notebook 完成加载。由于 Jupyter Notebook 的限制,操作验证无法自动化。
如果你在学习过程中遇到问题,随时向 Labby 提问。课程结束后提供反馈,我们会及时为你解决问题。
数据生成
我们将使用 sklearn.datasets 模块中的 make_blobs 函数来生成一个包含三个聚类的合成数据集。该数据集将由 750 个样本组成,聚类标准差为 0.4。我们还将使用 sklearn.preprocessing 模块中的 StandardScaler 对数据进行标准化。
from sklearn.datasets import make_blobs
from sklearn.preprocessing import StandardScaler
centers = [[1, 1], [-1, -1], [1, -1]]
X, labels_true = make_blobs(
n_samples=750, centers=centers, cluster_std=0.4, random_state=0
)
X = StandardScaler().fit_transform(X)
数据可视化
我们可以使用 matplotlib.pyplot 模块来可视化生成的数据。
import matplotlib.pyplot as plt
plt.scatter(X[:, 0], X[:, 1])
plt.show()
计算 DBSCAN
我们将使用 sklearn.cluster 模块中的 DBSCAN 类来计算聚类。我们将把 eps 参数设置为 0.3,把 min_samples 参数设置为 10。我们可以使用 labels_ 属性来获取由 DBSCAN 分配的标签。噪声样本被赋予标签 -1。我们还将计算聚类的数量和噪声点的数量。
import numpy as np
from sklearn.cluster import DBSCAN
from sklearn import metrics
db = DBSCAN(eps=0.3, min_samples=10).fit(X)
labels = db.labels_
n_clusters_ = len(set(labels)) - (1 if -1 in labels else 0)
n_noise_ = list(labels).count(-1)
print("Estimated number of clusters: %d" % n_clusters_)
print("Estimated number of noise points: %d" % n_noise_)
评估指标
我们可以使用评估指标来量化所得聚类的质量。我们将使用同质性、完整性、V 度量、调整兰德指数、调整互信息和轮廓系数等指标。我们将从 sklearn.metrics 模块中获取这些指标。如果真实标签未知,则只能使用模型结果本身进行评估。在这种情况下,轮廓系数就会派上用场。
print(f"同质性:{metrics.homogeneity_score(labels_true, labels):.3f}")
print(f"完整性:{metrics.completeness_score(labels_true, labels):.3f}")
print(f"V 度量:{metrics.v_measure_score(labels_true, labels):.3f}")
print(f"调整兰德指数:{metrics.adjusted_rand_score(labels_true, labels):.3f}")
print(f"调整互信息:{metrics.adjusted_mutual_info_score(labels_true, labels):.3f}")
print(f"轮廓系数:{metrics.silhouette_score(X, labels):.3f}")
绘制结果
我们将使用 matplotlib.pyplot 模块来绘制结果。核心样本(大圆点)和非核心样本(小圆点)根据分配的聚类进行颜色编码。被标记为噪声的样本用黑色表示。
unique_labels = set(labels)
core_samples_mask = np.zeros_like(labels, dtype=bool)
core_samples_mask[db.core_sample_indices_] = True
colors = [plt.cm.Spectral(each) for each in np.linspace(0, 1, len(unique_labels))]
for k, col in zip(unique_labels, colors):
if k == -1:
col = [0, 0, 0, 1]
class_member_mask = labels == k
xy = X[class_member_mask & core_samples_mask]
plt.plot(
xy[:, 0],
xy[:, 1],
"o",
markerfacecolor=tuple(col),
markeredgecolor="k",
markersize=14,
)
xy = X[class_member_mask & ~core_samples_mask]
plt.plot(
xy[:, 0],
xy[:, 1],
"o",
markerfacecolor=tuple(col),
markeredgecolor="k",
markersize=6,
)
plt.title(f"估计的聚类数量:{n_clusters_}")
plt.show()
总结
在这个实验中,我们使用 DBSCAN 聚类算法对一个合成数据集进行聚类。我们生成了一个数据集,可视化了数据,计算了聚类,评估了指标,并绘制了结果。