欢迎来到本次关于使用 scikit-learn 进行 K-近邻 (K-Nearest Neighbors, KNN) 分类的实践实验！Scikit-learn 是一个强大且流行的 Python 机器学习库。KNN 算法是最简单但有效的分类算法之一。它根据特征空间中“k”个最近邻居的多数类来对新的数据点进行分类。在本实验中，你将完成构建机器学习模型的完整流程：加载著名的 Iris 数据集，将其划分为训练集和测试集，初始化并训练 KNN 分类器，最后使用训练好的模型对新的、未见过的数据进行预测。完成本实验后，你将对 scikit-learn 中的监督学习基本工作流程有扎实的理解。
在此步骤中，你将开始加载所需的数据集。我们将使用经典的 Iris 数据集，该数据集方便地包含在 scikit-learn 中。首先，你需要从 sklearn 导入 datasets 模块。然后，调用 load_iris() 函数来获取数据。
理解 load_iris()：
Bunch 对象（类似于字典），其中包含：
.data：特征矩阵（150 个样本 × 4 个特征：萼片长度、萼片宽度、花瓣长度、花瓣宽度）.target：标签数组（物种：0=setosa、1=versicolor、2=virginica）.feature_names：4 个特征的名称.target_names：3 个物种的名称我们将按照机器学习中的常见约定，将它们分别赋值给变量 X 和 y（X 代表特征，y 代表标签）。
在左侧编辑器中打开 main.py 文件，并添加以下代码。
from sklearn import datasets
## Load the iris dataset
iris = datasets.load_iris()
## Assign features to X and labels to y
X = iris.data
y = iris.target
## You can print the shape to see the dimensions
print("Features shape:", X.shape)
print("Labels shape:", y.shape)现在，从终端运行脚本以查看输出。
python3 main.py你应该会看到特征矩阵和标签向量的维度。
Features shape: (150, 4)
Labels shape: (150,)这表明我们有 150 个样本（花朵），每个样本有 4 个特征。
在此步骤中，你将把数据集划分为两部分：训练集和测试集。这是机器学习中评估模型在未见过数据上性能的关键步骤。
理解 train_test_split() 参数：
test_size=0.3：预留 30% 的数据用于测试，70% 用于训练random_state=42：确保可复现的划分（每次运行使用相同的随机种子）我们使用训练集来训练模型，然后使用测试集来测试其预测能力。Scikit-learn 提供了一个名为 train_test_split 的便捷函数来实现此目的。你需要从 sklearn.model_selection 导入它。
将以下代码添加到你的 main.py 文件末尾。
from sklearn.model_selection import train_test_split
## Split data into training and testing sets
## test_size=0.3 means 30% of the data will be used for testing
## random_state ensures reproducibility
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)
## Print the shapes of the new sets
print("X_train shape:", X_train.shape)
print("X_test shape:", X_test.shape)现在，再次运行脚本。
python3 main.py输出现在将包含你的训练集和测试集的形状。
Features shape: (150, 4)
Labels shape: (150,)
X_train shape: (105, 4)
X_test shape: (45, 4)在此步骤中，你将初始化 K-Nearest Neighbors 分类器。KNN 的核心思想是通过查看数据点的“k”个最近邻居的类别来预测其类别。
理解 KNeighborsClassifier() 参数：
n_neighbors=3：用于预测的最近邻居数量
KNeighborsClassifier 是 scikit-learn 中实现此算法的类。你需要从 sklearn.neighbors 导入它。让我们创建一个分类器对象并将其命名为 clf。
将以下代码添加到你的 main.py 文件末尾。
from sklearn.neighbors import KNeighborsClassifier
## Initialize the KNN classifier with n_neighbors=3
clf = KNeighborsClassifier(n_neighbors=3)此代码不会产生任何输出，但它会在内存中创建分类器对象，为下一步的训练做好准备。
在此步骤中，你将使用训练数据来训练或“拟合”分类器。对于 KNN 算法，其“训练”阶段非常简单：它只是存储整个训练数据集（X_train 和 y_train）。
理解 .fit() 方法：
X_train（特征矩阵），y_train（目标标签）当需要对新数据点进行预测时，算法会在存储的数据集中找到“k”个最近的点并做出决策。在 scikit-learn 中训练模型，你需要使用分类器对象的 .fit() 方法。该方法将训练特征（X_train）和相应的训练标签（y_train）作为参数。
将以下代码行添加到 main.py 的末尾。
## Train the classifier using the training data
clf.fit(X_train, y_train)
print("Classifier trained successfully.")添加代码后，运行脚本。
python3 main.py你将看到一条确认消息，表明分类器已成功训练。
Features shape: (150, 4)
Labels shape: (150,)
X_train shape: (105, 4)
X_test shape: (45, 4)
Classifier trained successfully.在最后一步中，你将使用训练好的分类器对测试数据进行预测。现在模型已经从训练数据中“学习”了，我们可以将它从未见过的测试集特征（X_test）提供给它，并让它为每个样本预测类别。
理解 .predict() 方法：
X_test（未见过数据的特征矩阵）这是通过 .predict() 方法完成的。该方法将测试特征（X_test）作为输入，并返回一个预测标签的数组。我们将这些预测存储在一个名为 predictions 的变量中，并将其打印到控制台。你也可以打印实际标签（y_test）来查看模型的表现如何。
将最后一段代码添加到你的 main.py 文件中。
## Make predictions on the test data
predictions = clf.predict(X_test)
print("Predictions on test data:", predictions)
print("Actual labels of test data:", y_test)现在，运行完整的脚本。
python3 main.py你将看到测试集的预测类别标签数组，后面跟着真实标签的数组。
... (previous output) ...
Classifier trained successfully.
Predictions on test data: [1 0 2 1 1 0 1 2 1 1 2 0 0 0 0 1 2 1 1 2 0 2 0 2 2 2 2 2 0 0 0 0 1 0 0 2 1
0 0 0 2 1 1 0 0]
Actual labels of test data: [1 0 2 1 1 0 1 2 1 1 2 0 0 0 0 1 2 1 1 2 0 2 0 2 2 2 2 2 0 0 0 0 1 0 0 2 1
0 0 0 2 1 1 0 0]注意：此处显示了完整的输出数组。通过比较这两个数组，你可以看到预测结果与实际标签完全匹配，这表明模型在此测试集上的性能非常出色。
在此附加步骤中，你将创建可视化图表，以更好地理解你的 KNN 分类结果。可视化有助于你了解模型的性能如何以及 KNN 算法创建的决策边界。
理解分类中的数据可视化：
将以下代码添加到 main.py 文件的末尾以创建可视化图表：
import matplotlib.pyplot as plt
import numpy as np
## Create subplots for multiple visualizations
fig, axes = plt.subplots(1, 2, figsize=(15, 6))
## Plot 1: Training data with different colors for each class
scatter1 = axes[0].scatter(X_train[:, 0], X_train[:, 1], c=y_train, cmap='viridis', alpha=0.7, s=50)
axes[0].set_xlabel('Sepal Length (cm)')
axes[0].set_ylabel('Sepal Width (cm)')
axes[0].set_title('Training Data Distribution')
axes[0].legend(*scatter1.legend_elements(), title="Classes")
## Plot 2: Test data predictions vs actual labels
## Create a comparison: correct predictions vs incorrect ones
test_predictions = clf.predict(X_test)
correct_predictions = (test_predictions == y_test)
## Plot correct predictions
correct_mask = correct_predictions
scatter2_correct = axes[1].scatter(X_test[correct_mask, 0], X_test[correct_mask, 1],
c=y_test[correct_mask], cmap='viridis', alpha=0.7, s=50, marker='o')
## Plot incorrect predictions with different marker
incorrect_mask = ~correct_predictions
if np.any(incorrect_mask):
scatter2_incorrect = axes[1].scatter(X_test[incorrect_mask, 0], X_test[incorrect_mask, 1],
c=test_predictions[incorrect_mask], cmap='viridis',
alpha=0.7, s=80, marker='x', edgecolors='red', linewidths=2)
axes[1].set_xlabel('Sepal Length (cm)')
axes[1].set_ylabel('Sepal Width (cm)')
axes[1].set_title('Test Data: Predictions vs Actual\n(correct=●, incorrect=✕)')
## Create legend
legend_elements = [plt.Line2D([0], [0], marker='o', color='w', markerfacecolor='gray', markersize=8, label='Correct'),
plt.Line2D([0], [0], marker='x', color='red', markersize=8, label='Incorrect')]
axes[1].legend(handles=legend_elements)
plt.tight_layout()
plt.savefig('knn_classification_results.png', dpi=150, bbox_inches='tight')
print("Visualization saved to knn_classification_results.png")
## Additional: Show prediction accuracy
accuracy = np.mean(correct_predictions) * 100
print(f"Model Accuracy: {accuracy:.1f}%")运行更新后的脚本：
python3 main.py你应该会看到包含以下内容的输出：
... (previous output) ...
Visualization saved to knn_classification_results.png
Model Accuracy: 100.0%
可视化图表显示的内容：
此可视化图表帮助你理解：
恭喜你完成了这个实验！你已经成功使用 scikit-learn 构建并训练了一个 K-近邻（K-Nearest Neighbors）分类模型。你已经学习了监督式机器学习项目的基本工作流程，包括：
sklearn.datasets 加载数据集。train_test_split 将数据分割成训练集和测试集。KNeighborsClassifier。.fit() 方法在训练数据上训练模型。.predict() 方法对新的、未见过的数据进行预测。这个过程构成了许多机器学习任务的基础。从这里开始，你可以探索如何使用准确率（accuracy）、精确率（precision）和召回率（recall）等指标来更正式地评估你的模型性能，或者尝试不同的 n_neighbors 值，看看它如何影响结果。你还可以尝试可视化决策边界，或者在你的 KNN 分类器中使用不同的距离度量。
