Hugging Face nanotron 团队著（Nouamane Tazi、Ferdinand Mom、Haojun Zhao、Phuc Nguyen、Mohamed Mekkouri、Leandro von Werra、Thomas Wolf）。从单 GPU 的内存剖析出发，一路走到数据／张量／上下文／流水线／专家五维并行、GPU kernel 优化与混合精度——在 GPU 集群上训练大型语言模型所需的一切。每章附交互实验。
简体版基于台湾 Twinkle AI Community 的繁体中文翻译转换，保留原翻译署名。