Dense 模型

所有参数每次都参与计算的传统模型

与 MoE 相对。结构简单,但同等能力下算得更费。

相关词