从 @jax.jit 到 VLIW:追踪 TPU 编译器的每一层2026年4月6日·14 分钟TPU Pallas TPU JAX编译器通过一行@jax.jit 将8行代码就优化到了250 VLIW bundles. 本文通过HLO/LLO追踪了 TPU 编译器的优化之旅
GEMM Kernel 性能优化十问2026年4月4日·5 分钟技术 Pallas TPU FP8 Kernel MoE基于 Pallas GMM FP8 blockwise 量化内核开发的实战问答,涵盖量化粒度、子通道循环、分阶段 tiling、编译链路、精度对齐方法论等核心话题。
SGLang-JAX: An Open-Source Solution for Native TPU Inference ↗ ↖2025年10月29日技术 JAX TPU 推理 SGLangSGLang-JAX 是基于 JAX 和 XLA 构建的开源推理引擎,支持 continuous batching 和 speculative decoding,在 TPU 上实现高效原生推理。