大模型LLM应用架构
2023-05-26 14:23:31 4 举报
登录查看完整内容
chatgpt时代，如何接入，训练大语言模型方案
作者其他创作
大纲/内容
业务反馈
提示生成提示评估提示管理提示过滤
NVIDIA
MLops模型持续提升和持续开发自动结果反馈/自动持续训练/自动调优/RLHF
Cool Base
场景仓库
模型接入
已有市场
场景构建
样本仓库高定制化私有专业知识库A&P
事件数据
PyTorch
大模型LLM
数据准备
模型训练框架
Model Cube
大模型 LLAMA/BERT/ALBEF/微调 LORA/PTUNE/FREEZE优化 DPT Parallelism/MPI
原子模型组合模型模型纳管模型组装惊天评估动态监控SFT模型NLP模型LORA模型P-train模型
评估报告
数据检索
智能标签
场景应用
大模型“链”
云
模型解释
模型数据
相关性解释过程性解释因果性解释LLM安全
数据生成
数据扩增
数据接入
端
模型评估
可解释性
可解释性机器学习
样本仓库
边
数据标注
模型仓库
人工服务
数据洞察
应用仓库
TensorFlow
持续训练
固件能力
RLHF
0 条评论
回复 删除
下一页
