KNN算法处理多元分类任务-编程知识

KNN算法处理多元分类任务

概述

这个案例还是基于之前的案例进行改造。

之前的案例代码完整如下：

from sklearn.datasets import make_blobs
# KNN 分类器
from sklearn.neighbors import KNeighborsClassifier
# 画图工具
import matplotlib.pyplot as plt
# 数据集拆分工具
from sklearn.model_selection import train_test_split
# 数据分析
import numpy as np# 生成样本数为200，分类为2的数据集
data = make_blobs(n_samples=200, centers=2, random_state=8)
X, y = data# 创建knn分类器
clf = KNeighborsClassifier()
clf.fit(X, y)# 画图
x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, .02), np.arange(y_min, y_max, .02))
z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
z = z.reshape(xx.shape)# 绘制数据集
plt.pcolormesh(xx, yy, z, cmap=plt.cm.Pastel1)
plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.spring, edgecolor='k')# 把新的数据点用五角星表示出来
plt.scatter(6.75, 4.82, marker="*", c="red", s=200)plt.xlim(xx.min(), xx.max())
plt.ylim(yy.min(), yy.max())
plt.title("Classifier: KNN")plt.show()# 预测
print(clf.predict([[6.75, 4.82]]))

输出结果如下：
在这里插入图片描述

构造新的数据集

构造一个样本数为500，分类数为5的数据集，然后使用散点图进行可视化：

# 生成样本数为500， 分类数为5的数据集
data2 = make_blobs(n_samples=500, centers=5, random_state=8)
X2, y2 = data2# 用散点图将数据集进行可视化
plt.scatter(X2[:,0], X2[:,1], c=y2, cmap=plt.cm.spring, edgecolor='k')
plt.show()

效果预览如下：
在这里插入图片描述

此时的完整代码如下：

from sklearn.datasets import make_blobs
# KNN 分类器
from sklearn.neighbors import KNeighborsClassifier
# 画图工具
import matplotlib.pyplot as plt
# 数据集拆分工具
from sklearn.model_selection import train_test_split
# 数据分析
import numpy as np# 生成样本数为500， 分类数为5的数据集
data2 = make_blobs(n_samples=500, centers=5, random_state=8)
X2, y2 = data2# 用散点图将数据集进行可视化
plt.scatter(X2[:,0], X2[:,1], c=y2, cmap=plt.cm.spring, edgecolor='k')
plt.show()

X2和y2分别是什么？

此时，X2依旧还是一个二维数组：
在这里插入图片描述

y2是一个一维数组，记录了每一行对应的分类是什么：
在这里插入图片描述

使用KNN训练模型

核心代码：

# 训练模型
clf  = KNeighborsClassifier()
clf.fit(X2, y2)# 画图
x_min, x_max = X2[:,0].min() - 1, X2[:,0].max() + 1
y_min, y_max = X2[:,1].min() - 1, X2[:,1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, .02), np.arange(y_min, y_max, .02))z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
z = z.reshape(xx.shape)plt.pcolormesh(xx, yy, z, cmap=plt.cm.Pastel1)
plt.scatter(X2[:,0], X2[:,1], c=y2, cmap=plt.cm.spring, edgecolor='k')
plt.xlim(xx.min(), xx.max())
plt.ylim(yy.min(), yy.max())
plt.title("Classifier: KNN")
plt.show()

输出结果：
在这里插入图片描述

此时的完整代码如下：

from sklearn.datasets import make_blobs
# KNN 分类器
from sklearn.neighbors import KNeighborsClassifier
# 画图工具
import matplotlib.pyplot as plt
# 数据集拆分工具
from sklearn.model_selection import train_test_split
# 数据分析
import numpy as np# 生成样本数为500， 分类数为5的数据集
data2 = make_blobs(n_samples=500, centers=5, random_state=8)
X2, y2 = data2# 训练模型
clf  = KNeighborsClassifier()
clf.fit(X2, y2)# 画图
x_min, x_max = X2[:,0].min() - 1, X2[:,0].max() + 1
y_min, y_max = X2[:,1].min() - 1, X2[:,1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, .02), np.arange(y_min, y_max, .02))z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
z = z.reshape(xx.shape)plt.pcolormesh(xx, yy, z, cmap=plt.cm.Pastel1)
plt.scatter(X2[:,0], X2[:,1], c=y2, cmap=plt.cm.spring, edgecolor='k')
plt.xlim(xx.min(), xx.max())
plt.ylim(yy.min(), yy.max())
plt.title("Classifier: KNN")
plt.show()