Building an LLM from scratch

不依赖任何高层黑盒库，纯使用 Python 与 PyTorch 从底层字节流和矩阵运算出发，端到端实现 BPE 分词、现代 Transformer 架构、内存映射二进制数据流水线、混合精度预训练引擎、自回归 KV-Cache 推理、SFT 指令微调与 LoRA 适配器，并在消费级显卡上完整闭环。