最近邻分类器，K近邻分类器，线性分类器

转自：https://blog.csdn.net/oldmao_2001/article/details/90665515

最近邻分类器：

　　通俗来讲，计算测试样本与所有样本的距离，将测试样本归为距离最近的样本类。

　

K近邻分类器：

　　计算测试样本与K个最近样本的距离，将测试样本归为K个样本中相同类别个数较多的一类。

　　L1距离与L2距离的区别：

　　

　　重要原则：可以看到L1在旋转坐标后，距离是变化的，而L2不会，因此如果输入的特征向量中的一些值对于输出有非常重要的意义或影响，这个时候应该使用L1距离，但是如果特征向量只是某个空间中的一个通用向量，用L2会好一点。