Posts

深入拆解 TPU 的 3D Torus + OCS 光交换架构如何将 9,216 颗芯片连成一张无交换机网络，对比 NVIDIA 从 NVLink8 到 NVLink576 的交换机扩展路线，以及 Feynman 架构拥抱 OCS 的未来展望

对比 NVIDIA A100B300 七款 GPU 与 Google TPU v2v7x 七代 TPU 的算力、HBM 显存与带宽、互联带宽，梳理两大阵营的演进脉络

用 4×4 的具体数字，逐 cycle 追踪激活值和部分和在脉动阵列中的流动，理解 TPU MXU 如何通过权重固定、激活流过、对角波前推进来完成矩阵乘法

编译器通过一行@jax.jit 将8行代码就优化到了250 VLIW bundles. 本文通过HLO/LLO追踪了 TPU 编译器的优化之旅

基于 Pallas GMM FP8 blockwise 量化内核开发的实战问答，涵盖量化粒度、子通道循环、分阶段 tiling、编译链路、精度对齐方法论等核心话题。

SGLang-JAX 是基于 JAX 和 XLA 构建的开源推理引擎，支持 continuous batching 和 speculative decoding，在 TPU 上实现高效原生推理。