从 GPT-2 到 LLaMA

已完结 · 共 5 篇 · 从组件替换到完整模型

1. 01RMSNorm：简化归一化
2. 02SwiGLU：升级前馈网络
3. 03RoPE：旋转位置编码
4. 04GQA：分组查询注意力
5. 05LLaMA：组装完整模型

配套互动：在矩阵里一格一格算完一次 LLaMA →