https://pengchengneo.github.io/tags/llm-inference/Recent content in LLM Inference on Pengcheng's BlogHugo -- gohugo.iozh-CN© 2026 PengchengMon, 25 May 2026 00:00:00 +0000https://pengchengneo.github.io/posts/reiner-pope-blackboard-lectures/Mon, 25 May 2026 00:00:00 +0000https://pengchengneo.github.io/posts/reiner-pope-blackboard-lectures/学习 Dwarkesh Podcast 上 Reiner Pope 两期黑板课：第一期用 Roofline 和 batch size 解释 token 成本、MoE 机架布局、KV cache 与长上下文定价；第二期从逻辑门、MAC、mux 和 systolic array 讲到 GPU/TPU/FPGA/CPU 的架构哲学。