↓ 跳过正文

Pengcheng

AI Infra Engineer

浙江大学（本科）/ 清华大学（硕士），电子与通信工程。先后在美团和 MiniMax 负责 AI Infra，专注 LLM 训推引擎优化。

技术方向：大规模分布式训练 · 推理优化与部署 · GPU/TPU Kernel 开发 · 训练基础设施与 MLOps

最近的文章

FineWeb 简体中文版：大规模提炼网页以获取优质文本数据

2026年10月6日·1 分钟

技术 LLM Training Dataset FineWeb Data Engineering

FineWeb 长篇技术报告简体中文版，保留正文、插图和交互图表，涵盖网页文本提取、过滤、MinHash 去重、消融实验和 FineWeb-Edu。

Ultra-Scale Playbook 简体中文版：在 GPU 集群上训练大语言模型

2026年10月6日·1 分钟

技术 GPU LLM Training Distributed Parallelism

Ultra-Scale Playbook 简体中文交互版，包含完整章节、附录和 16 个互动实验，覆盖 DP、TP、SP、CP、PP、EP、GPU 内核与混合精度。

AI 芯片架构全景：GPU、TPU、Trainium、WSE 与 LPU

2026年8月24日·39 分钟

AI Infra AI 芯片 GPU TPU Trainium Cerebras Groq

系统比较 NVIDIA GPU、Google TPU、AMD GPU、Cerebras WSE、AWS Trainium 与 Groq LPU 的设计理念、计算与内存架构、扩展方式和软件栈。

Anthropic 面试题：VLIW SIMD 内核优化实战

2026年8月12日·3 分钟

Kernel VLIW SIMD Kernel Compiler Performance Engineering

以 Anthropic Performance Take-Home 为例，介绍如何把 147,734-cycle 的串行树遍历优化到 959 cycles，并总结 VLIW 指令调度中可迁移的性能优化方法。

Pathways：面向下一代大规模 AI 的分布式运行时

2026年5月28日·5 分钟

训练框架 Pathways JAX XLA TPU 分布式训练

本文从 PJRT、IFRT、SPMD、MPMD、单控制器和多控制器等概念出发，介绍 Google Pathways 的系统动机与核心设计。

(手写笔记) Reiner Pope 两期黑板课：从 Token 经济学到 AI 芯片底层

2026年5月25日·4 分钟

AI Hardware LLM Inference AI Chip TPU GPU Roofline Systolic Array

学习 Dwarkesh Podcast 上 Reiner Pope 两期黑板课：第一期用 Roofline 和 batch size 解释 token 成本、MoE 机架布局、KV cache 与长上下文定价；第二期从逻辑门、MAC、mux 和 systolic array 讲到 GPU/TPU/FPGA/CPU 的架构哲学。