← 返回全部项目

transformer.ngjoo.com · ONLINE

Transformer Atlas

把 Transformer 的关键机制整理成 4 篇、33 章的纵深学习路径,从注意力机制一路延伸到 KV Cache、MoE、LoRA 与量化。

内容结构

核心

循序图谱

按基础、核心、扩展、高阶组织章节,适合按路径学习,也可以按主题查阅。

机制拆解

用数据流和实现视角解释 Q/K/V、掩码、多头注意力、位置编码与生成采样。

来源可追

关键机制连接论文、历史实现或教学源码,明确参考范围与许可证。