底层物理瓶颈洞察(三大物理墙)
拆解 AI 算力背后的三堵物理墙——算力墙、显存墙、通信墙,用 Roofline 模型与真实 HBM/NVLink/InfiniBand 数字建立硬件瓶颈的第一手认知。
拆解 AI 算力背后的三堵物理墙——算力墙、显存墙、通信墙,用 Roofline 模型与真实 HBM/NVLink/InfiniBand 数字建立硬件瓶颈的第一手认知。
从静态 Padding 算力浪费讲到动态 Bucket/Padding-Free,再用 Roofline 模型与 PyTorch Profiler/Nsight 完成算子级 Memory-Bound vs Compute-Bound 定位与归因。