首页  思维导图  详情



 



机器学习算法整理

2026-05-16 11:41:31   0  举报





AI智能生成

机器学习算法入门学习

机器学习

Machine Learning

模板推荐

作者其他创作

大纲/内容

监督学习

分类 Classification

逻辑回归

二分类或多分类

输出某个类别的概率

简单、稳定、可解释性强

场景：是否违约、是否流失、是否点击广告

决策树

分类和数值预测

核心思想：像人做判断一样，一步步问问题

容易过拟合，单棵树稳定性一般

场景：风控规则、客户分类、营销判断

随机森林

解决问题: 分类、回归

训练很多棵决策树，让它们投票

缺点：模型较大，可解释性比单棵树差

场景：风控、客户评分、疾病预测、表格数据建模

XGBoost

基于梯度提升树，加入正则化、并行优化、缺失值处理等工程增强

效果强、速度快、稳定、工业界常用

场景：金融风控、用户流失、销量预测、kaggle 竞赛

支持向量机 SVM Support Verctor Machine

找到一个最大间隔分割线

小中型数据，清晰边界问题表现好

场景：文章分类、图像分类、小样本分类

朴素贝叶斯 Naive Bayes

概率模型

根据概率判断最可能属于那个分类

场景：垃圾分类、文本分析、情感分析

 K 近邻 KNN K-Nearest Neighbors

看离样本最近的k个邻居是什么类型

简单直观

场景：小数据分类、相似用户判断、简单推荐

回归 Regression

线性回归

预测连续数值

用一条直线或超平面拟合输入和输出之间的关系

简单、快、可解释性强

只能表达线性关系，对复杂问题效果有限

岭回归

Lasso

决策树回归

XGBoost回归

非监督学习

聚类

K-Means

自动分群

将样本分成K个蔟，每个蔟有一个中心

场景：用户分群、商品分组、门店分级

硬分类

偏球形蔟

DBSCAN

根据眼本密度形成蔟，稀疏点为异常

场景：地理位置聚类、异常交易识别、轨迹分析

层次聚类 Hierarchical Clustering

分层分群

从小到大合并，或从大到小拆分

客户分层、文本主题层级、基因分析

GMM 高斯混合模型

假设数据来自多个高斯分布的混合

软聚类

用户分群、语音建模、异常检测

可表达椭圆形蔟

降维

PCA Principal Component Analysis 主成分析

特征压缩、去噪、可视化

找到最能保留数据变化的信息方向

场景：高维数据压缩、可视化、去噪

t-SNE / UMAP

高维数据可视化

把高维样本映射到二维或三维空间

场景：embedding 可视化、聚类可视化、数据探索

AutoEncoder

关联规则

APriori / FP-Growth 关联规则

找出物品直接到共现关系

分析哪些东西经常一起出现

例如：购物篮分析、套餐推荐、交叉销售

半监督/自监督学习

强化学习 RL

Q-Learning

学习状态-动作价值表

小型决策问题

DQN

用神经网络近似 Q 值

游戏 AI

Policy Gradient

直接学习策略

连续动作控制

PPO

稳定高效的策略优化算法

大模型 RLHF、机器人、游戏

Actor-Critic

同时学习策略和值函数

机器人控制

DPO / RLHF

用人类偏好优化大模型

LLM 对齐、安全、风格优化

深度学习 Deep Learning

CNN 卷积神经网络

用卷积提取局部特征

图像任务效果强

场景：图像分类、目标检测、人脸识别、医学影像

RNN

基础循环神经网络

LSTM

更好处理长期依赖

GAN Generative Adversarial Network

类似 LSTM，但结构更简单

生成模型

场景：图像生成、风格迁移、数据增强

Transformer

使用 Attention 机制建模 token 之间关系

并行训练能力强，长距离依赖建模好

场景：大语言模型、翻译、摘要、问答、代码生成、多模态

Diffusion Model 扩散模型

从噪声逐步去噪生成数据

图像生成质量高

场景：文生图、图像编辑、视频生成

监督学习

神经网络 Neural Network

分类、回归、生产、表示学习

用多层网络学习复杂非线性关系

场景：图像识别、语音识别、NLP、大模型

AutoEncoder 自编码器

先压缩数据，再尝试还原数据

场景：异常检测、图像去噪、特征压缩

推荐系统 Recommendation

协同过滤 Collaborative Filtering

相似用户喜欢相似物品、或相似物品被相似用户喜欢

场景：电商商品推荐、电影推荐、音乐推荐

两种形式

User-based CF

找相似用户

Item-based CF

找相似商品

矩阵分解 Matrix Factorization

把用户和物品映射到隐向量空间

评分预测、召回、个性化推荐

FM / FFM

推荐/广告

自动线学习特征之间的组合关系

CTR 预估、广告点击、电商推荐等

DeepFM

FM + 深度神经网络

CTR预估

双塔模型

用户塔和物品塔分别编码，就算相似度

大规模召回、语义匹配

Wide & Deep

结合记忆能力和泛化能力

APP 推荐、广告

DIN / DIEN

建模用户兴趣变化

电商推荐、短视频推荐

时间序列 Time Series

ARIMA

传统时间序列

单变量时间序列预测

根据历史值和误差项预测未来

场景：稳定业务指标预测、金融时间序列

Prophet

时间序列预测

有趋势、季节性、节假日效应的数据

将时间序列拆成趋势、季节性、节假日不分

场景：销量预测、流量预测、运营指标预测

LSTM

能处理序列依赖的神经网络

传感器、流量、金融序列

Temporal Fusion Transformer

面向时间序列的Transformer 模型

多变量复杂预测

DeepAR

基于深度学习的概率预测模型

多商品销量、多门店预测

异常检测 Anomaly Detection

Isolation Forest

异常点更容易被随机切分孤立出来

场景：欺诈检测、日志异常、设备异常

One-Class SVM

学习正常样本边界，边界外示为异常

场景：小规模异常检测、质量检测

LOF Local Outlier Factor 局部异常因子

比较一个点和周围点点密度异常

能发现局部异常

场景：用户行为异常、空间数据异常

AutoEncoder

集成学习/ Boosting

GBDT Gradient Boosting Decision Tree

解决问题：分类、回归、排序

核心思想：一棵树接一棵树训练，后面的树专门修正前面的错误

优点：表格数据效果强

场景：金融风控、广告点击率预测、搜索排序

Bagging 多个模型并行训练

随机森林 Random Forest

Boosting 模型串行训练，后一个修正前面一个

GBDT

XGBoost

LightGBM

GBDT 高性能实现

分类、回归、排序

更快，更节省内存的梯度提升树

场景：广告 CTR、推荐排序、金融风控、大规模表格数据

CatBoost

分类、回归、排序

擅长处理类别型特征

Stacking 多个模型结果再交给一个新模型学习

Stacking Ensemble

 Collect

Get Started

机器学习

 Collect

Get Started

机器学习总结

 Collect

Get Started

Python机器学习算法

 Collect

Get Started

机器学习与算法





0 条评论

下一页