AI
推荐
模板社区
专题
登录
免费注册
首页
流程图
详情
DeepSeekV2 Model
2025-04-11 17:16:40
1
举报
分享方式
免费使用
DeepSeekV2 Model
model架构
模版推荐
作者其他创作
大纲/内容
kv
CastToFP8
FP8
(core_attention): TEDotProductAttention
kv_combined
BF16
hidden_states
core_attn_out
CastToBF16
TransformerLayer i
(input_layernorm): RMSNorm()
(linear_q_proj): TEColumnParallelLinear
(mlp): MoELayer
(self_attention): MLASelfAttention
TransformerLayer i-1
q
kv_compressed
(pre_mlp_layernorm): RMSNorm()
(linear_kv_down_proj): TEColumnParallelLinear
(linear_kv_up_proj): TELayerNormColumnParallelLinear
(linear_proj): TERowParallelLinear
TransformerLayer i+1
P2P:FP8
收藏
立即使用
DeepSeekV2 Model
PO_gr0E4M
职业：暂无
去主页
Collect
Get Started
Facets MFH Model
Collect
Get Started
topview-project-model
Collect
Get Started
model
Collect
Get Started
MODEL结构图
评论
0
条评论
下一页
Document
