LLM入门学习方向
2025-03-28 16:40:36 1 举报
AI智能生成
LLM入门学习方向
作者其他创作
大纲/内容
大语言模型基础
<b>Transformer 结构</b>
嵌入表示层
注意力层
前馈层
残差连接与层归一化
编码器和解码器结构
<b>生成式预训练语言模型 GPT</b>
无监督预训练
有监督下游任务微调
<b>大语言模型结构</b>
Qwen
Llama
GLM
...
大语言模型训练
<b>大模型预训练</b>
数据处理
损失函数
<b>训练加速策略</b>
数据并行
模型并行
混合并行
<b>有监督微调</b>
提示学习
高效模型微调
模型上下文窗口扩展
<b>强化学习</b>
基于人类反馈的强化学习
奖励模型
近端策略优化
<b>推理加速</b>
KV缓存
注意力机制优化
推理框架
大语言模型应用
<b>推理规划</b>
思维链(CoT)
<b>知识检索增强</b>
召回
检索
<b>智能体</b>
智能体框架
多智能体协同
<b>多模态大模型</b>
模型架构
训练方法
大语言模型评估
<b>大语言模型评估体系</b>
<b>大语言模型评估方法</b>
0 条评论
下一页