AlibabaCloud通用AI应用架构范例
2025-08-12 14:35:37 1 举报AlibabaCloud通用AI应用架构范例。
作者其他创作
大纲/内容
多语言服务
节点A
现存业务E
User
Mobile App
PC App
节点B
Device
DashVector
通义千问
智谱AI
现存业务C
......
函数C
微服务
Deepseek
OpenAI
Gemini
Redis
现存业务A
开源LLMs（FC GPU）
现存业务B
Llama3
LLMs API
函数A
函数B
编排AI Agent的两种方式
流程式
函数D
开源LLMs（PAI）
云原生API网关
各类触发器
LLM服务统一管理多API Key管理，LLM切换Fallback鉴权认证、安全、限流联网搜索
LLM服务管理
Store/Retrieve
MSE Nacos
编码式
Actions/Tool管理
函数计算Spring AI Alibaba/LangChain/....
节点C
多种部署方式的LLM
OSS触发器SLS触发器Kafka触发器RocketMQ触发器DTS触发器定时触发器......
API/路由统一管理流量统一管控（转发、负载）鉴权认证、安全、限流
通过IP、域名、函数计算集成代理
CloudFlow流程编排
从Nacos发现
服务注册（Java微服务，Go）
通过IP，域名
三方服务
Serverless应用引擎部署Dify
RDS
各类三方API
OSS
容器服务ACK部署Dify
收藏
0 条评论
下一页
