[人工智能]2021-08-27

@[TOC]KNN学习笔记

看b站视频时的随手记

视频网址：30分钟KNN算法-有意思专题系列(K-Nearest Neighbor, KNN).

1.knn K近邻算法原理

1.k值选择：
如果K=3，那么离绿色点最近的有2个红色三角形和1个蓝色的正方形，这3个点投票，于是绿色的这个待分类点属于红色的三角形。
如果K=5，那么离绿色点最近的有2个红色三角形和3个蓝色的正方形，这5个点投票，于是绿色的这个待分类点属于蓝色的正方形。

2.距离度量
复杂的公式

2.sklearn knn的使用，以及cross validation交叉验证

尝试了sklearn，报错’pandas’,但在代码中也没有标红

3.numpy 实现knn

4.knn改进方法

不同的K值加权

距离度量标准根据实际问题，使用不同的距离

特征归一化，例如，身高和体重x=[180,70]，升高计算明显，更影响结果，所有需要对两者分别求平均值，然后归一化。

如果维数过大，可以做PCA降维处理
参考：knn K近邻算法python实现.