AI大语言模型技术栈技术路线

这张 AI 大语言模型技术栈技术路线架构图从下到上分为五层。最底层是算力管理层，硬件涵盖 NVIDIA（H100、A100）、AMD（M1350、M1300）、昇腾（910B、910A）等芯片，软件包含 Slurm、Docker、Kubernetes 等，实现资源分配、负载均衡等管理。往上是数据处理和管理层，涉及预训练数据（网页、代码、书籍、论文等分类及语言检测、数据去重等处理）、对齐训练数据（Prompt 与 Responses 交互）、评测数据（从知识能力、安全可信等维度评测）。再上是通用模型层，包含模型训练（预训练、对齐训练，采用 SFT、RLHF 等方法及多种并行技术）、模型部署（动态批处理、算子量化等）、模型评测（OpenEval、UltraEval 等工具）。之后是行业模型层，通用模型经行业数据的领域微调训练、行业对齐训练，完成行业模型部署与评测。最上层是应用层，支持自主规划、工具调用、信息检索、智能客服、图文创作、代码生成等多类应用场景。