AI Infra Weekly · 2026-W26 · 06-22 ~ 06-28

1️⃣ AI 芯片

• HN821★OpenAI 发布首款自研芯片，由博通代工 🔥
  OpenAI 推出首颗定制 AI 芯片，由 Broadcom 设计代工——继 Google TPU、Amazon Trainium 之后，又一家头部 AI 公司走向自研算力，意在降低对 Nvidia 的依赖并优化自家训练/推理成本结构。
• HN170★AMD Strix Halo RDMA 集群搭建指南
  社区放出在 AMD Strix Halo APU 上配置 RDMA 集群跑 vLLM 的实操指南，展示了非 Nvidia 平台做分布式推理的可行路径，对关注国产/替代算力栈的读者有参考价值。
• arXivSOLAR：AI 驱动的 Speed-of-Light 性能分析
  提出用模型预测深度学习负载在目标硬件上的理论性能上限（光速性能），并量化当前实现与上限的差距，是软硬件协同优化中定位瓶颈的有用方法学。
• arXivSegFold：细粒度动态数据流加速稀疏 GEMM
  针对 SpGEMM 在 CPU/GPU 及专用加速器上因静态数据流导致的低效，提出细粒度动态数据流架构，对稀疏计算加速器设计有借鉴意义。

2️⃣ AI 编译器与框架

• arXivCHIA：开源的 Agentic AI 驱动软硬件协同设计框架
  面向计算机体系结构研究，用 agentic AI 自动化 HW/SW co-design 流程，是「LLM 进入编译/体系结构设计闭环」趋势的最新开源实践。
• arXiv面向超维计算的编译器驱动近似调优
  在摩尔定律放缓背景下，用编译器自动做近似度调优来加速 ML 负载（超维计算 HDC），体现「编译器承担精度-性能权衡」的方向。

3️⃣ AI 推理优化（数据中心）

• HN772★DSpark：投机解码加速 LLM 推理（DeepSeek） 🔥
  DeepSeek 放出 DSpark 论文，用投机解码（speculative decoding）显著加速大模型推理。HN 高热（772 分），是本周推理优化方向最受关注的工程进展。
• arXivMoebius：MoE 模型服务的无缝运行时并行切换
  MoE 模型服务需多 GPU 协同，Moebius 实现运行时并行策略的无缝切换，提升 MoE 推理的资源弹性与吞吐，是数据中心侧 MoE serving 的实用工作。
• arXivRolloutPipe：解耦式 On-Policy LLM 后训练中的流水线重叠
  面向 RLVR 推理后训练，将 rollout 与 training 在解耦架构下流水线重叠，缓解 RL 后训练的吞吐瓶颈，对做 RLHF/RLVR 训练基础设施的团队有价值。

4️⃣ 数据中心与基础设施

• arXivBtrLog：云数据库的低延迟日志
  云数据库无法依赖本地盘做 WAL 持久化，被迫写远程存储；BtrLog 针对该场景优化低延迟日志，是大规模云基础设施存储路径优化的代表性工作。
• arXiv异构 AI 系统中统一张量重切分的模拟
  现有训练模拟器假设算力/网络同构，但真实训练基础设施日益异构；该工作模拟异构系统下的张量 resharding，对大规模训练集群规划有参考。

5️⃣ AI 安全与治理

• HN1164★美国政府将审定谁能使用 GPT-5.6 🔥
  据华盛顿邮报，OpenAI 称美国政府将参与审核其最新模型 GPT-5.6 的使用者准入。前沿模型出口/准入管制进一步制度化，HN 本周第一热帖（1164 分）。
• HN807★Anthropic 指控阿里巴巴非法提取 Claude 模型能力 🔥
  路透报道 Anthropic 称阿里巴巴非法蒸馏/提取其 Claude 模型能力。模型能力窃取与跨境治理成为焦点，叠加出口管制，是本周治理主线。
• HN546★美国允许 Anthropic 向「受信」美企发布 Mythos 模型
  Semafor 报道美方批准 Anthropic 向部分受信美国机构发布强力模型 Mythos，叠加随后亚洲创业公司推出对标模型，凸显出口禁令下的供给重构。

6️⃣ 具身智能（基础设施视角）

7️⃣ AI 自动算子与代码生成优化

• arXivCHIA 框架（亦见编译器栏）：AI 自动化软硬件协同
  用 agentic AI 自动驱动硬件/软件协同设计，与「AI 自动生成/调优算子与硬件」方向高度相关，可视作自动算子生成在体系结构层的延伸。

8️⃣ 边缘与端侧推理

• arXivApple M4 Pro 上 GPU 命令完成后的残留缓存状态
  Apple silicon 统一内存下，GPU 命令完成后的缓存状态缺乏文档；该工作刻画了这一相位边界，对在 Apple ANE/GPU 上做端侧推理优化与安全分析有参考。
• arXiv面向超低功耗边缘的 IMPLY 忆阻存内计算指令集
  为极严苛能耗约束的边缘计算设计基于 IMPLY 的忆阻存内处理阵列指令集，代表端侧/边缘极低功耗推理硬件的前沿探索。