KNN算法
概述
K-Nearest Neighbors,找最近的K个样本, 然后基于这些样本做<b><font color="#e74f4c">分类</font></b>或者<b><font color="#e74f4c">回归</font></b>任务.
特点:
KNN既能处理分类问题, 也能处理回归问题
欧式距离:
对应维度差值的平方和, 开平方根
常见的计算距离的方式
扩展: 其它距离, 例如: 曼哈顿距离(城市截取距离), 切比雪夫距离, 闵式距离, 有时间了可以了解一下.
思路
分类问题
1.计算测试集和训练集之间的欧氏距离
2.按照距离升序排列
3.找到最近的K个样本
4,基于样本投票
5.上述投票结果就是最终分类结果
回归问题
1.计算测试集和训练集之间的欧氏距离
2.按照距离升序排列
3.找到最近的K个样本
4. 基于上述的K个样本, 算均值.
5. 上述的均值就是最终的预测值.
案例
KNN 分类API入门
KNN 回归API入门
鸢尾花分类
超参优化
超参:需要(程序员)手动传入的参数, 就叫: 超参.<br>例如: KNN算法的 K值就是超参.