AI 应用架构(结合 MCP)
2025-05-28 17:01:43 6 举报
文档标题:AI应用架构框架概述 本文档概述了结合MCP(Model Composition Protocol)的AI应用架构,旨在为开发者提供构建高效、可互操作的AI系统的一种策略。核心内容包括: - **数据处理层**:确保数据的准确性、安全性和多样性,包括数据采集、清洗和验证机制。 - **模型构建层**:描述了如何使用MCP组装多模型组件,实现复杂AI算法和模型的高效部署。 - **应用程序接口(API)层**:标准化接口以支持不同AI服务的集成和模块化设计,提供便捷的访问通道。 - **用户交互层**:提供丰富用户界面(UI)的指导,确保用户与AI应用之间的互动自然、直观。 - **运行维护层**:涵盖监督、控制和优化AI系统的实际运行。 本架构文件为“.md”(Markdown格式),它简洁明了,便于在网络上分享和协作开发,同时也使用了如**粗体**、*斜体*和~~删除线~~等不同的修饰语,使关键概念突出。通过将MCP融合进这一架构中,可以优化AI应用的集成效率,促进AI技术的发展和广泛应用。
作者其他创作
大纲/内容
节点B
.......
CloudFlow 流程编排
开源LLMs(FC GPU)
LLama 4
云原生API网关(南北向流量网关)
Redis
API/路由统一管理流量统一管理(转发、负载)鉴权认证、安全、限流
Web APP
Mobile APP
手动配置
DashVector
SD / Flux
通义千问
业务功能
云原生API网关(AI网关)
节点A
DeepSeek
普通服务/MCP Server 元数据统一管理普通API/MCP Tool 定义统一管理服务配置/System Prompt 安全管理
节点C
各类出发器
云原生API网关(MCP网关)
函数A
MCP Server
函数B
流程式编码式
MSE Nacos(MCP Server注册中心)
多种部署方式的LLM
开源LLMs
Device
OSS
LLM服务管理
MCP Server/MCP Tool 自动发现普通API向MCP Tool的协议转换鉴权认证、安全、缓存
数据服务
作为MCP Server注册
现存业务服务0代码改造转换为MCP Server
现存业务A
容器服务 ACK 部署 Dify
OPenAI
LLM 服务统一管理多API Key管理、LLM切换、Fallback鉴权认证、安全、限流、联网搜索
Serverless 应用引擎 部署 Dify
函数D
服务提供商
函数C
Gemini
OSS 触发器SLS 触发器Kafka 触发器RocketMQ 触发器DTS 触发器定时触发器......
LLMs API(百炼)
基于FC新开发
作为普通服务注册(Java微服务, GO)
LLama 3
自动发现
User
传统现存业务
智谱AI
函数计算 Spring AI Alibaba/LangChain/...
现存业务B
0 条评论
下一页