11 电源·热·能效管理洞察
- 章节编号:11
- 所属层:S 系统软件层(与 02/03 硬件功耗、09 Driver、10 OS、13 实时、18 autotune 强耦合)
- 关联 ADR:ADR-067(端侧功耗预算与 TOPS/W 目标)、ADR-068(DVFS/电源域策略)、ADR-069(热管理与节流)、ADR-070(软硬协同能效:精度/频率/调优联动)
- 上游依赖:01(功耗预算/分层频率)、02(数据流能效)、03(内存带宽功耗)、09(驱动电源 ioctl)、10(BSP/PMIC)、13(确定性 vs DVFS)、18/19(精度-能效)
学习目标
- 前置知识:读过 01 章(端侧功耗预算/分层频率)与 13 章(实时确定性),知道具身负载「VLA chunk 突发 + 1kHz 伺服常驻」的双重形态;了解 DVFS(Dynamic Voltage and Frequency Scaling,动态电压频率调整)的基本概念、功耗与频率/电压的物理关系(动态功耗 ∝ 频率 × 电压²);读过 19 章(量化)知道 INT4/NVFP4 会同时降算力位宽与能耗。无需芯片电路设计背景。
- 学完产出:① 能画出端侧机器人本体的电源域划分(安全岛固定频 / Linux 认知核 isolation / NPU 三档 DVFS / ISP 帧率绑定),并说清为什么 1kHz 伺服的电源域必须与 NPU 的 DVFS 隔离;② 能用一个具体数字算一遍 DVFS 降频在「延迟」与「功耗」之间的非线性权衡——理解为什么降 20% 频率能省下远超 20% 的功耗;③ 能说清热节流(thermal throttling)如何把「datasheet 峰值算力」打折成「持续可用算力」,并解释「MAXN 非真峰值」这类陷阱;④ 能用正确的能效口径评价一颗芯片——区分「峰值 TOPS/W(设备级、越大越好)」与「每次推理焦耳数 J/inference(任务级、越小越好)」,并说明为什么用「ms/W」跨功耗档比较毫无意义;⑤ 能设计一条热响应降级链(降频 → 自动 INT4 → 减 flow 步 → 暂停 VLA),把它落成 Driver ioctl + Runtime 策略。
- 阅读姿势:盯住一条主线——「端侧能效的本质,是在固定的散热与电池包络内,让每一焦耳电能完成尽可能多的有效推理」。峰值 TOPS/W 只是设备潜力的上限,真正的量产 KPI 是「跑完一次 π0 chunk 花掉多少焦耳、多少毫秒」。所有软件杠杆(DVFS、量化、减步、调度)都在同一个目标下博弈:在不撞热墙、不违反 1kHz 硬实时的前提下,把 J/inference 压到最低。
1. 范围与目标
本章定义端侧机器人本体的 功耗预算、DVFS/电源域、热节流、软硬协同能效策略。不含 PMIC/散热机械设计细节(到 软件可见策略与硬件约束接口 为止)。
核心问题
- 具身 VLA(π0/GR00T)在 多少 W 包络 内可跑 ≥10Hz chunk?
- DVFS 与 1kHz 硬实时(安全岛) 如何分域?NPU 频率能否动态调?
- TOP 平台(Jetson Thor、Dragonwing IQ10、昇腾 310B/310P)能效方案?
- INT4/NVFP4(19 章)、1-NFE(21 章) 对 TOPS/W 的量化收益?
- 软件栈(Driver/Runtime/Compiler)如何暴露 功耗感知调度?
2. 需求洞察(具身驱动)
2.1 具体场景/任务
| 场景 | 功耗压力 | 来源 |
|---|---|---|
| 人形全天作业(叠衣/搬运) | 40–80W sustained 可接受;峰值 ≤130W | Figure/Optimus 类 |
| GR00T Thor 标杆 | 92ms/chunk @ 10.9Hz within 40–130W | 21 章 |
| 1kHz 伺服 + VLA 并发 | NPU 峰值 + 岛 <5W 独立 | 01/13 章 |
| 电池供电移动臂 | 15–30W AI 子系统 目标(M2) | 客户 POC |
2.2 硬性指标
| 指标 | 目标 | 依据 |
|---|---|---|
| 端侧 AI 子系统 TDP | 30–80W(M3);可配置 15W 低功耗档 | 对标 Thor 40W 档 |
| 能效 | ≥3–5 TOPS/W(INT4) 有效(非峰值标称) | 01 章;Thor 3.5× vs Orin |
| 热节流 | p99 延迟增幅 ≤15% 于 TDP 内 | 具身 rollout |
| DVFS 粒度 | NPU ≥2–4 频点;CPU cluster-pair(对标 Thor) | 09/10 |
| 确定性 | 1kHz 控制不受 NPU DVFS 影响(岛独立) | 13 章红线 |
2.3 端 / 边 / 中心
| 形态 | 功耗特征 |
|---|---|
| 端侧 | 电池/风扇有限;软硬协同 DVFS 核心 |
| 边缘网关 | 插电;TDP 100–300W;多 robot 汇聚 |
| 中心 | 无严格 W 约束;能效=电费;非 扩展阶段 |
2b. 电源域拓扑:为什么 1kHz 伺服必须与 NPU DVFS 隔离
端侧机器人本体不是「一块芯片跑所有东西」,而是多个电源域(power domain)共享一块 PMIC 供电树。理解能效管理的第一步,是画清这张拓扑——不同域的频率/电压策略截然相反,而它们之间的电耦合(共享 PMIC 轨道) 正是最隐蔽的抖动来源。
逐域读这张图:
| 电源域 | 策略 | 为什么 |
|---|---|---|
| 安全岛(Zephyr) | 固定频率 + 固定电压,禁 DVFS | 1kHz 伺服环的 WCET(最坏执行时间)必须可证;任何 DVFS 调频瞬态都会破坏时间确定性 |
| Linux 认知核 | isolation + performance governor | VLA 编排 / ROS2 需要稳定高频,但可容忍 μs 级抖动 |
| NPU | boost / sustained / idle 三档 DVFS | chunk 推理是突发负载,待机时降到 idle 省电,推理时 boost 拉满 |
| ISP / 感知 | 频率与相机帧率绑定 | 30/60Hz 采集节拍固定,无需动态调 |
隐蔽的耦合(对应 3.3 节反模式):NPU 从 idle 突然 boost 时,瞬态电流拉高 → PMIC 共享轨道瞬态压降 → CPU 被动节流 → ROS2 出现 jitter → 传导到伺服环。这说明电源域的「逻辑隔离」不等于「电隔离」:必须在 PMIC 树设计阶段(09/10 章硬件冻结前)为安全岛留独立供电轨,否则软件层任何 DVFS 策略都无法保证 1kHz 硬实时。
3. 技术现状与趋势(点名 + 来源)
3.1 具身负载功耗构成(π0/GR00T 级)
| 组件 | 占比(估计) | 调优杠杆 |
|---|---|---|
| VLM backbone(GEMM+Attn) | 40–55% | INT4/NVFP4(19);KV-cache |
| 动作头(DiT/flow loop) | 25–40% | 减步/1-NFE(21);fusion(17) |
| ViT/感知 CNN | 10–20% | multi-camera batch(17) |
| CPU/IO/DMA | 5–15% | dmabuf 零拷贝(09) |
GR00T Thor 公开:DiT TRT 49ms/4步;E2E 92ms;LLM nvfp4 + ViT/DiT fp8 —— 精度-功耗联合优化 是量产路径。
3.2 TOP 级平台电源/热/能效横向对比(2025–2026)
能效口径说明(务必先读):下表「能效标称」列一律采用设备级峰值 TOPS/W(越大越好),与本项目术语表
能效 = TOPS/W对齐。但跨平台横评时,峰值 TOPS/W 会系统性误导——高功耗芯片天然占优的「ms/W」口径尤其不可用(见 3.2c 节)。真正的量产比较应落到任务级 J/inference(每次推理焦耳数,越小越好),即「跑完一次 π0 chunk 花掉多少焦耳」。
| 平台 | TDP/峰值 | 能效标称(峰值 TOPS/W) | DVFS/电源管理 | 具身/VLA 实测 | 优势 | 劣势 |
|---|---|---|---|---|---|---|
| NVIDIA Jetson Thor T5000 | 40–130W;瞬时 GPU+SoC 144W 监控 | 2070 FP4 TFLOPS;3.5× vs Orin 能效 | nvpmodel(70/90/120W/MAXN);PowerEstimator 自定义;INA3221/238 硬 TDP;cluster-pair DVFS | GR00T 92ms/10.9Hz;DiT TRT 49ms | 工具链最成熟;MIG 功耗分区;公开 estimator | 闭源;GPU 中心;MAXN 非真峰值(会 throttle) |
| Jetson Orin AGX | 15–60W | ~3–7 INT8 TOPS/W(稀疏峰值口径另标) | nvpmodel 多年成熟 | GR00T 173ms TRT | 出货/生态 | VLA <10Hz;能效落后 Thor |
| Qualcomm Dragonwing IQ10 | 未全公开;车规 700 TOPS INT8 标称 | 强调 Perf/W on Hexagon | QNX+Linux 混合;功能安全电源域 | Physical AI 栈 building | 车规 PMIC/ASIL;同芯片 mixed-criticality | 机器人功耗文档少;大 VLA 案例少 |
| 华为昇腾 310B/310P | 边缘盒 以官方 datasheet 为准(310B TDP 低于 310P) | INT8 ~2× FP16 算力 | CANN freq ctrl | π0 ~430ms FP16(310P) | 国产低 TDP | 能效≠实时;机器人非主战场 |
| Apple M-series(参考) | 15–30W(笔记本) | ANE 高 Perf/W | macOS powermetrics | 非机器人 | 端侧 ANE 标杆 | 不可编程 NPU |
| Google TPU Edge(无外卖) | 云侧为主 | 极高(训练/推理) | 软件 VMEM | 无端侧 VLA | — | 不可复用 |
| Figure 02 双 RTX | ~200–400W(估计) | PC 级 | 风扇+桌面 PMIC | Helix fully onboard | 算力冗余 | 非 SoC;无电池人形参考 |
| 我们(目标) | AI 域 30–80W;电池 15–30W | ≥3–5 有效 TOPS/W INT4 | 自研 NPU DVFS + nvpmodel 式 profile | π0 目标 <100ms @≤50W | 机器人档可定义;manifest 联动 | 从零;无 silicon 前靠 ISS 估 |
口径修正记录:早期草稿曾给 Orin「~5–20 INT8 TOPS/W」偏高,已按 Orin AGX 官方稠密口径下修为 ~3–7 INT8 TOPS/W(稀疏峰值另标注);310P 曾写死「8–15W」,已改为「310B/310P 以官方 datasheet 为准」——310B 与 310P 是不同 SKU,TDP 不应混淆。所有算力/功耗数字以厂商 datasheet 为准,本表用于量级对标,非承诺。
3.2a 代表方案深度对比(优劣势)
NVIDIA Jetson Thor + GR00T(量产标杆)
| 维度 | 内容 |
|---|---|
| 方案 | ModelOpt(nvfp4/fp8) → TensorRT Edge-LLM + DiT engine;nvpmodel 选 70/90/120W |
| 优势 | 唯一公开 VLA E2E ms + W 档 组合;PowerEstimator 可生成自定义 nvpmodel;MIG 隔离多模型功耗 |
| 劣势 | 闭源 estimator 难移植;MAXN 超 TDP 会 硬件 throttle→p99 抖动;GPU 内存 128GB 拉高 idle 功耗 |
| 我们可借鉴 | 多档 power profile + 硬件 TDP 监控 + 精度降档联动 |
| 我们差异化 | NPU 原生 INT4 TOPS/W;无 GPU 显存 idle;岛固定频 保证 1kHz |
Qualcomm Dragonwing IQ10(车规 Physical AI)
| 维度 | 内容 |
|---|---|
| 方案 | Hexagon 700 TOPS;ExecuTorch QNN delegate;QNX 安全域 + Linux AI 域 同芯片 |
| 优势 | 功能安全电源域 成熟;Perf/W 手机/车规验证;QIRP Yocto OTA |
| 劣势 | 大 VLA 公开 benchmark 缺失;700 TOPS 为 INT8 标称,VLA 有效 Hz 未证 |
| 我们可借鉴 | mixed-criticality 电源分区;电池 saver 档 |
| 我们差异化 | MLIR 全栈;开放 power profile API |
华为昇腾 310B/310P + π0(国产现状)
| 维度 | 内容 |
|---|---|
| 方案 | torch_npu eager;FP16;CANN freq |
| 优势 | 低 TDP(以官方 datasheet 为准);真机 demo(叠衣) |
| 劣势 | 430ms/步 → ~2.3Hz 有效,距 Thor ~4.7× 延迟;无 nvfp4 级压缩公开 |
| 我们机会 | 同 低 TDP 档 做到 <100ms = 强卖点(宇树/智元/千寻) |
Physical Intelligence π0(软件中立)
| 维度 | 内容 |
|---|---|
| 方案 | PyTorch BF16;RTC;4090 ~76ms/chunk |
| 优势 | 硬件中立;50Hz 控制语义;RTC 降延迟敏感度 |
| 劣势 | 无官方量化/功耗数据;4090 ~450W 仅作开发参考 |
| 我们可借鉴 | manifest power_profile 不影响算法;RTC 与 DVFS 正交 |
3.2b 电源管理软件栈对比
| 能力 | NVIDIA Jetson | Qualcomm | 华为 CANN | 我们(目标) |
|---|---|---|---|---|
| 用户态 profile | nvpmodel | 平台服务 | ATC freq API | dsa-powerctl profile |
| 工作负载估计 | PowerEstimator | 内部 | profiler | 02 roofline + 21 manifest |
| 热节流 | INA + kernel throttle | 车规 | 温度 API | 09 ioctl → 11 策略链 |
| AI 降档 | TRT precision tactic | QNN quant | AMCT | 19 quant + 21 flow_steps |
| 硬实时隔离 | 无(靠 PREEMPT_RT) | QNX 域 | 无 | Zephyr 岛固定频 |
3.2c 能效口径辨析:为什么用 J/inference 而非 ms/W
跨平台评价能效,选错口径会得出完全错误的结论。本节澄清三种口径,给出本项目量产比较的唯一推荐口径。
| 口径 | 定义 | 方向 | 适用场景 | 陷阱 |
|---|---|---|---|---|
| 峰值 TOPS/W | datasheet 标称算力 ÷ 标称功耗 | 越大越好 | 芯片选型初筛、设备潜力上限 | 峰值无法在小 batch VLA 上达到;稠密/稀疏口径混淆 |
| 每次推理焦耳 J/inference | 跑完一次完整 chunk 的能量 = 平均功耗(W) × chunk 时延(s) | 越小越好 | 量产任务级横评(推荐) | 需统一负载定义(同一 π0 chunk、同一精度) |
| 时延 ÷ 功耗 | (伪指标) | ❌ 不可跨功耗档比较 | 高功耗芯天然占优,量纲无物理意义 |
为什么「ms/W」是错的:设想两颗芯片跑同一次推理——
- A 芯:100W,20ms/chunk → ms/W = 20/100 = 0.2
- B 芯:10W,100ms/chunk → ms/W = 100/10 = 10
按「ms/W 越小越好」的直觉,A 芯「赢」了 50 倍。但真实能耗是:A 芯 100W × 0.02s = 2.0 J,B 芯 10W × 0.1s = 1.0 J——B 芯每次推理只花一半的电!「ms/W」把「时延」和「功耗」做除法,量纲是 s/W = s²/J,没有任何物理意义,且功耗越高分母越大、数值越小,系统性偏袒高功耗芯片。术语表中的「有效 ms/W」只应理解为「单位能量能跑多少毫秒有效推理」的口语说法,正式横评一律换算成 J/inference(= 平均功耗 × chunk 时延),方向统一为「越小越好」,与设备级 TOPS/W(越大越好)分开使用、不混用。
3.3 DVFS 与确定性权衡(承接 13 章)
| 域 | DVFS | 理由 |
|---|---|---|
| 安全岛(Zephyr) | 固定频率 | 1kHz WCET |
| Linux 认知核 | PREEMPT_RT + performance/isolation | VLA/ROS2 |
| NPU | 2–4 档:boost(推理)/sustained/idle | chunk 突发 vs 待机 |
| ISP/感知 | 与帧率绑定 | 30/60Hz |
反模式:NPU boost 导致 PMIC 瞬态压降 → CPU 节流 → ROS2 jitter(13 章)。
3.4 软硬协同能效杠杆
| 杠杆 | 层 | 收益量级 |
|---|---|---|
| INT4/NVFP4 GEMM | 19/17 | ~1.5–2× 能效 |
| 1-NFE / 4-step DiT | 21/18 | ~2–5× 动作头 |
| fused SDPA + loop fusion | 17/16 | 10–30% |
| autotune 选 memory-bound tile | 18 | 5–20% |
| 功耗感知 spec(低功耗档降频+INT4) | 18 ADR-070 | 场景切换 |
3.5 趋势
- 机器人 SoC = 宽 TDP 窗口(40–130W) + 多档 nvpmodel 式配置 —— Thor 定调。
- 精度即功耗:nvfp4/fp8 不是压缩章专属,是 电源策略输入。
- 热设计绑定软件:硬件 TDP 监控 → 驱动 throttle → Runtime 降级精度/减步。
- 电池人形:15–30W AI sustained 是 M2–M3 差异化 方向。
- ExecuTorch 1.0(2025) 强调 Hexagon Perf/W——Qualcomm 以 delegate 能效 打手机/IoT,机器人延用同一叙事。
- 有效 J/inference > 峰值 TOPS/W:行业从标称算力转向 任务级每次推理能量(GR00T 92ms@≤130W → 换算 J/chunk 作横评)。
3b. 由演进反推的芯片/软件诉求
| 演进 | 功耗/热响应 |
|---|---|
| π0 5B + 多相机 | TDP +10–20W;须 MIG/QoS 分区 |
| 世界模型(边) | 插电;DVFS 放宽 |
| 1-NFE 普及 | 动作头功耗 ÷3–5 |
| 国产 310P→自研 | 430ms→<100ms @ ≤50W 卖点 |
4. 候选方案与对比矩阵
4.1 端侧电源策略
| 候选 | 能效 | 确定性 | 成本 | 可驾驭度 | 小结 |
|---|---|---|---|---|---|
| A. 多档 nvpmodel 式 + NPU DVFS | 5 | 4 | 4 | 4 | 建议方案;对标 Thor |
| B. 固定最高频(无 DVFS) | 3 | 5 | 5 | 5 | M1 调试 only |
| C. 纯软件限 TDP(无 hw monitor) | 3 | 3 | 3 | 4 | 缺硅后保护 |
倾向:A;岛与 1kHz 固定频(B 子集)。
4.2 热节流响应
| 候选 | 用户体验 | 实现 | 小结 |
|---|---|---|---|
| D. 降 NPU 频 + 自动 INT4 | 4 | 4 | 默认 |
| E. 减 flow 步数(10→4→1-NFE) | 5 | 3 | 21 章联动 |
| F. 暂停 VLA 保控制 | 5 | 4 | 极端热 |
倾向:D→E 递进;F 安全兜底。
5. 关键权衡、风险与依赖
- DVFS vs 延迟 p99:节流保 silicon,但 GR00T 类 Hz 承诺 受损 —— manifest 功耗档字段。
- PMIC/热 硬件冻结前 须定 NPU 电源域数量(09 ioctl)。
- 依赖:03(带宽功耗)、09(电源 ioctl)、10(BSP)、13(岛固定频)、18/19(精度档)。
6. 结论与待决项
6.1 初步结论
- 端侧 AI TDP 目标 30–80W(M3);对标 Thor 40–130W 可配;电池档 15–30W。
- 分域 DVFS:岛固定频;NPU boost/sustained/idle;Linux 认知核 isolation。
- 软硬协同:19 章 quant + 21 章减步 + 18 章 功耗感知 tuning spec 三联动。
- 热节流:降频→INT4→减步→暂停 VLA 递进。
- Driver 暴露 power profile ioctl;Runtime 读 manifest 选档。
- 能效横评统一用 J/inference(越小越好);峰值 TOPS/W(越大越好)仅作选型初筛;禁用「ms/W」跨档比较。
6.2 待决项
- NPU DVFS 是否 M2 必须 vs M4(依赖 PMIC 设计)。
- 是否提供 PowerEstimator 式 客户工具(26 章 SDK)。
- CI 门禁的能效指标固化为 J/chunk 还是 有效 TOPS/W(与 27 章联合定)。
6.3 ADR 候选
- ADR-067 功耗预算:端侧 AI 子系统 30–80W sustained;峰值 ≤100W;电池档 15–30W;对标 GR00T Thor 92ms@≤130W。
- ADR-068 DVFS/电源域:安全岛 固定频;NPU ≥3 档 DVFS;Linux nvpmodel 式 profile(robot_boost/robot_sustained/battery_saver);09 Driver power ioctl。
- ADR-069 热管理:硬件 TDP 监控→驱动 throttle;软件响应链 降频→INT4→减 flow 步→暂停 VLA;p99 延迟增幅 ≤15% @ TDP。
- ADR-070 软硬协同能效:tuning spec / manifest 含 power_profile;与 19 quant、21 flow_steps 联动;CI J/inference(越小越好) 门禁(27 章),辅以峰值 TOPS/W 参考。
7. 端→边→中心演进影响
- 边缘:插电,TDP 放宽;同一 profile API,不同默认值。
- 不可逆点:NPU 电源域与 PMIC 树随 tape-out 冻结 → 软件 profile 参数化。
深入思考
下面三题每题先给题干,再用
<details>折叠一份图文并茂的参考答案。建议先合上答案自己想 3 分钟,再展开对照。
思考题 1:DVFS 如何在延迟与功耗之间做非线性权衡
你的 NPU 有 boost / sustained 两档,boost 比 sustained 高 25% 频率。产品经理问:「切到 sustained 档,延迟只慢一点点,能省多少电?」结合 2b 节电源域 与 DVFS 的物理关系(动态功耗 ∝ 频率 × 电压²),说明为什么「降 20% 频率能省下远超 20% 的功耗」,并用具体数字算一遍 boost 与 sustained 两档的 J/chunk 对比。
展开参考答案(含 DVFS 功耗-频率非线性图 + 算一遍)
结论:降频省电的威力来自「电压随频率一起降」这个隐藏放大器——动态功耗正比于频率乘电压的平方,而高频必须配高电压,于是降 20% 频率往往能配合降约 10% 电压,两者相乘让功耗下降接近 35%;由于时延只增加约 25%,单次推理的总能量 J/chunk 反而下降。这就是「以少许延迟换大幅省电」在物理上成立的根因。
用具体数字算一遍(归一化到 boost 档 = 1.0):
- boost 档:频率 f=1.0,电压 V=1.0。动态功耗 P ∝ f × V² = 1.0 × 1.0² = 1.00。假设 chunk 时延 20ms。
- sustained 档:频率降到 f=0.8(慢 20%)。关键在于电压可以跟着降——高频需要高电压维持时序,降频后 V 可降到约 0.9。动态功耗 P ∝ 0.8 × 0.9² = 0.8 × 0.81 ≈ 0.65——功耗降了 35%,而不是 20%。
- 时延变化:频率降 20%,计算耗时约增加到 20 / 0.8 = 25ms(慢 25%)。
- 单次推理能量对比:
- boost:1.00 × 20 = 20 单位(J/chunk)
- sustained:0.65 × 25 ≈ 16.2 单位(J/chunk)
- sustained 每次推理省下约 (20−16.2)/20 ≈ 19% 的能量,代价只是延迟从 20ms 增到 25ms。
这告诉产品经理什么:只要业务的延迟预算允许(比如 chunk SLO 是 <100ms,25ms 远在预算内),优先跑 sustained 档——延迟略增、能量净降、发热更少、更不容易撞热墙。这正是 nvpmodel 式多档 profile 的价值:boost 只在延迟吃紧的突发时刻短暂拉起,平时用 sustained 把 J/inference 压低。注意这里能耗降幅小于功耗降幅(19% vs 35%),因为时延变长部分抵消了省电——这也是为什么能效必须用 J/inference 而非功耗单指标来评价(见 3.2c 节)。
思考题 2:热节流如何把「持续算力」打折
厂商 datasheet 写 NPU 峰值 2070 FP4 TFLOPS,你的 demo 跑前 30 秒 chunk 延迟稳定在 92ms,之后逐渐涨到 120ms 且开始抖动。结合 3.2 节 MAXN 陷阱 与 3.3 节反模式,解释热节流的物理机制,以及为什么「datasheet 峰值」不等于「持续可用算力」;并说明你的热响应降级链(降频→INT4→减步→暂停 VLA)应如何设计,才能把 p99 延迟增幅压在 15% 以内。
展开参考答案(含热节流反馈环 + 降级链图)
结论:datasheet 峰值算力是「硅片在理想散热下、瞬时能达到的上限」,而机器人本体的散热面积和风扇有限,芯片跑满几十秒后结温撞上阈值,硬件自动降频保护自己——于是持续可用算力被「打折」到峰值的一部分;MAXN 这类「无上限档」正是把这个折扣暴露给用户的陷阱。要把 p99 增幅压在 15% 内,靠的不是抗拒节流,而是抢在硬件硬节流之前,由软件主动、平滑地降级精度与步数。
热节流的物理机制:芯片跑满时,动态功耗几乎全部转成热量。机器人本体的散热(被动散热片 + 小风扇)有固定的热耗散上限。当产热速率 > 散热速率,结温(junction temperature)持续爬升;一旦越过硬件阈值(通常 90–105°C),PMIC/温控固件强制降频保护硅片——这就是「前 30 秒稳、之后变慢」的原因:热容让芯片能短暂超频跑满,但稳态只能跑在散热允许的持续功耗内。
为什么峰值 ≠ 持续:datasheet 的 2070 TFLOPS 是瞬时峰 值,在无限散热假设下才成立。Thor 的「MAXN」档正是这个陷阱——它不设功耗上限,允许瞬时冲到 144W,但机器人散热撑不住,几十秒后硬节流,p99 延迟因反复「降频→温降→升频→再过热」而剧烈抖动。这就是 3.2 节说的「MAXN 非真峰值」。
降级链设计(把 p99 增幅压在 15% 内):核心思想是软件抢在硬件硬节流之前主动、分级降级,让降级平滑可预测,而非等硬件粗暴砍频:
- ① 降频(boost→sustained):先走思考题 1 的路径,降 25% 频率省 35% 功耗、产热骤降,延迟仅 +25% 但通常仍在预算内。
- ② 自动切 INT4(19 章):精度降档减少乘加位宽与访存能耗,~1.5–2× 能效,进一步降产热。
- ③ 减 flow 步(21 章):动作头从 10 步 → 4 步 → 1-NFE,~2–5× 动作头节能,直接砍掉迭代 loop 的算力。
- ④ 暂停 VLA 保控制:极端热下的安全兜底——牺牲认知(VLA)也要保住 1kHz 伺服(安全岛固定频不受影响,见 2b 节)。
关键是每一级都是「小步平滑降级」而非「一刀切」,配合硬件 TDP 监控(INA 电流传感)提前触发,使延迟增长呈阶梯而非尖刺,从而把 p99 增幅控制在 ADR-069 承诺的 ≤15%。
思考题 3:能效指标怎么定义才不误导
你要为 CI 加一条能效门禁,同事提议用「ms/W」。请指出这个指标的致命缺陷,给出正确的任务级能效定义,并用一张对比表证明:一颗 100W 跑 20ms 的芯片,能效未必比一颗 10W 跑 100ms 的芯片好。最后说明设备级 TOPS/W 与任务级 J/inference 各自的正确用途。
展开参考答案(含三口径对比表 + 能效口径关系图)
结论:「ms/W」是伪指标,量纲是秒平方每焦耳、没有物理意义,且分母是功耗、功耗越高数值越小,系统性偏袒高功耗芯片,绝不能用于跨功耗档比较;正确的任务级能效是每次推理焦耳数 J/inference(= 平均功耗 × chunk 时延,越小越好),它直接回答「跑完一次推理烧掉多少电」;而设备级峰值 TOPS/W(越大越好)只适合选型初筛,不能替代任务级横评。
「ms/W」的致命缺陷:它把「时延」除以「功耗」,量纲是 ms/W = s/W = s²/J——没有任何物理含义。更致命的是功耗在分母:同样跑完一次推理,功耗越高、分母越大、ms/W 数值越小,于是「ms/W 越小越好」的直觉会系统性判定高功耗芯片更优,恰好判反。
用对比表证明(同一次 π0 chunk 推理):
| 芯片 | 平均功耗 | chunk 时延 | ms/W(伪) | J/inference = W × s(真) | 谁真的省电? |
|---|---|---|---|---|---|
| A 芯(高功耗) | 100W | 20ms | 20/100 = 0.2 | 100 × 0.020 = 2.0 J | — |
| B 芯(低功耗) | 10W | 100ms | 100/10 = 10 | 10 × 0.100 = 1.0 J | ✅ B 芯省一半电 |
- 按「ms/W 越小越好」:A 芯 0.2 vs B 芯 10 → 判 A 芯「赢」50 倍。
- 按 J/inference:A 芯 2.0J vs B 芯 1.0J → B 芯每次推理只烧一半的电,对电池供电机器人是决定性优势。
- 两个口径给出完全相反的结论——这就是为什么口径错了,数据再准也会把决策带偏。
正确的任务级定义:J/inference = 平均功耗(W) × 单次 chunk 时延(s),即完成一次完整推理消耗的能量,越小越好。它同时把「功耗」和「时延」纳入,且量纲是焦耳、有清晰物理意义,直接换算电池续航(总电量 ÷ J/inference = 可跑几次)。
两个口径的正确分工:
- 设备级 峰值 TOPS/W(越大越好):选型初筛用,看芯片潜力上限。缺陷是小 batch VLA 根本达不到峰值,且稠密/稀疏口径易混淆(见术语表)。
- 任务级 J/inference(越小越好):量产横评与 CI 门禁用,回答真实问题「跑一次 π0 chunk 烧多少电」。CI 门禁(ADR-070、27 章)应固化为 J/chunk 回归不得超阈,而非 ms/W;峰值 TOPS/W 仅作参考。两者方向相反、用途不同,分开报告、绝不混用,更不用 ms/W 替代任何一个。
附:信息来源
区分公开/估计;参考时间 2026-07。
- NVIDIA Jetson Thor datasheet(40–130W,2070 FP4 TFLOPS,3.5× efficiency vs Orin):NVIDIA Jetson Thor module datasheet(以官方为准)。[公开]
- Jetson Thor Power/DVFS/nvpmodel:NVIDIA Jetson Linux Developer Guide r39.2 PlatformPowerAndPerformance。[公开]
- GR00T Thor 92ms/功耗档:21 章;NVIDIA Isaac GR00T docs。[公开]
- Qualcomm ExecuTorch Hexagon delegate Perf/W:PyTorch blog / Qualcomm 2025。[公开]
- 昇腾 310B/310P datasheet 与 π0 部署(310P ~430ms FP16;TDP 以官方为准):华为昇腾产品页;devpress.gitcode.com。[公开]
- Orin AGX INT8 能效(~3–7 稠密 TOPS/W,稀疏峰值另标):NVIDIA Jetson Orin 模块 datasheet(以官方为准)。[公开]
- Figure Helix onboard 功耗(估计):01 章;The Robot Report。[公开/估计]
- 能效口径(J/inference vs 峰值 TOPS/W;ms/W 伪指标辨析):本项目术语表 §5/§6;工程换算。[内部/估计]