以 Anthropic Performance Take-Home 为例,介绍如何把 147,734-cycle 的串行树遍历优化到 959 cycles,并总结 VLIW 指令调度中可迁移的性能优化方法。
JAX Pallas 文档完整中文版,覆盖快速入门、Grid/BlockSpec、软件流水线、TPU 内核编写(矩阵乘法、稀疏计算、分布式、SparseCore)、Mosaic GPU 内核编写(Blackwell 矩阵乘法、集合通信)、设计笔记等全部内容
基于 Pallas GMM FP8 blockwise 量化内核开发的实战问答,涵盖量化粒度、子通道循环、分阶段 tiling、编译链路、精度对齐方法论等核心话题。