AI大模型功能架构平台架构
2025-11-09 21:31:59 0 举报
这张 AI 大模型功能架构平台架构图从底层到上层构建全栈能力。框架 & 基础设施层集成 Pytorch、TensorFlow 等底层框架,依托异构芯片、高速网络支撑;样本中心覆盖数据集成、特征工程等全流程数据处理,开发中心提供白盒代码与零代码低代码两种模式的大小模型训练能力;模型中心整合文心大模型(ERNIE 系列)、第三方大模型、通用 AI 能力(人脸识别等)及行业专用 AI 能力,实现模型管理、评估、部署全生命周期管理;服务中心分大模型运行(服务管理、Prompt 工程等)与小模型运行(边端预测等)模块;应用中心落地金融、制造等多行业应用样板间,集成自主规划 Agent 机制、知识检索增强 RAG、代码解释器等组件;左侧基础管控包含账户权限、资源调度等模块,右侧 AI 资产共享平台实现资产管理、共享、交易等功能,完整覆盖 AI 大模型从开发、训练、部署到行业应用的全链路架构。
作者其他创作
大纲/内容
模型压缩
漂移监控
服务运行
模型中心
图像生成
资产管理
第三方大模型
安全生产、质检、营销等
边端预测
文本生成
知识检索增强RAG
服务编排
行业专用AI能力
智慧城市应用样板间
ERNIE-3.5
资产托管
ERNIE-Lite
数据生成
代码解释器
结构化数据管理<库表数据、RLHF等数据>
文心大模型
能源行业应用样板间
自动化建模
Post-pretrain
制造行业应用样板间
基础管控AI Base
ERNIE-Speed
非结构化数据管理<图像、视频、音频>
notebook
高速网络RDMA
审计
数据增强
统计监控
存储管理
图像理解
体验中心
小模型运行
作业建模
服务中心
边缘适配
实验管理
昆仑芯、英伟达、昇腾、海光、......
训练案例模板&样板间
资源调度
AI能力组件(语义匹配、文字识别等)
可视化建模
产线建模
AI资产共享平台AIHub
洞察&探索
自主规划Agent机制
资产交易
特征工程
RLHF&DPO
应用中心
SFT&Lora
预置数据集、数据标注、数据回流
底层框架<Pytorch、TensorFlow、Paddle、Keras、Horovod、DDP、PaddleFleet、Vllm>
数据集成
数据清选
样本中心
大小模型镜像、加速组件
Prompt工程
大模型运行
数据采集
模型共享
文本表示
自定义HF格式
模型管理
账户&权限
零代码低代码态-大小模型训练
金融行业应用样板间
开发中心
SQL工作台
人脸识别、图像识别
服务管理
通用AI能力
模型评估
资产共享
模型部署
白盒代码态-大小模型训练
异构芯片
监控报警
交通行业应用样板间
文字识别等
资产门户
框架&基础设施
大模型组件(多轮改写、对话小结等)
人工编排WorkFlow机制
0 条评论
下一页