大模型产品化架构图
2025-04-29 15:55:33 0 举报大模型产品框架
作者其他创作
大纲/内容
work2
Nginx
微服务集群
Docker
Dify
持久化
work3
Web
本地模型
大模型服务
网络
work1
172.32.0.1
model store
MySQL
MinIO
work4
ollama
业务服务集群
业务数据库
172.32.0.3
model store
OSS
公有云:CPU
公有云:GPU
中间结果持久化
Node-1（Java）
推理服务商
Node-3（Java）
基础设施
本地对外服务
172.32.0.2
Node-2（Java）
0 条评论
下一页
