AI计算平台模型管理及部署架构
2024-11-07 09:38:03 0 举报AI计算平台模型管理及部署架构设计
作者其他创作
大纲/内容
加载模型
内存
数据管理
分布式资源调度
GPU资源调度
保存镜像
容器镜像仓库
上传实验数据及结果
数据集管理
发布服务
部署在线推理服务
代码仓库
MLflow Project
注册实验项目
数据预处理
注册模型
CI工具
网络
读取数据
本地IDE
PostgreSQL
MLflow Model
CPU
volcano
硬盘
存储数据集
k8s集群
数据存储中间件
模型部署应用
在线JupyterLab开发
向量数据库
保存实验数据及模型文件
MLflow Tracing
上传训练/推理服务代码
GPU
模型管理
自动创建训练/推理服务
MinIO
模型开发
数据采集
0 条评论
下一页
