Window: 2026-08-06 ~ 2026-08-07
Sources: HN / arXiv / tech blogs / Chinese media / embodied RSS
Date: 2026-08-07
🌟 今日亮点
- AMD 收购 Taalas(🔥311 分)——「模型蚀刻硅片」路线获巨头押注:将预训练权重固化到芯片电路中,推理不再走指令流水线——这是对「GPU 万能论」的一次正面挑战,专用推理芯片赛道正在加速分化。
- Google DeepMind 大地震(🔥🔥822 分)——Demis Hassabis 退居 Chair、Jeff Dean 彻底离开:这不仅是人事新闻,更可能影响 Google 在 AI 基础设施、模型架构与芯片战略上的长期路线。
- SparseDitto 用 LLM Agent 自动生成 GPU 稀疏 Kernel——cuSPARSE 同一矩阵不同格式差 350× 的痛点终于有自动化解法:LLM 辅助 GPU 编程正从 paper 走向 compiler/toolchain 集成。
- Chips and Cheese 公开质疑 Nvidia Vera 白皮书的一处关键疑点:——硬件架构文档的透明性正成为社区与技术媒体共同关注的新战场。
- 具身智能方向今日 arXiv 丰产——Deltoris(边缘 VLA 实时推理)、SiMDex(跨具身数据挖掘)、SAFECAST(VLA 失败检测)三条主线分别从推理系统、数据工程、安全鲁棒性三个维度推进
1️⃣ AI 芯片
-
(HN 311)——Taalas 的技术路线是将预训练模型直接蚀刻为硅片中的固定电路,绕过传统指令执行开销。AMD 此举标志推理芯片从通用 GPU 向专用化加速迈出关键一步。
-
(HN 199)——Chips and Cheese 对 Nvidia 下一代 Vera 架构白皮书做了深度技术剖析,发现其中一处线程调度描述与架构图示存在矛盾,可能影响对 Vera 实际并行能力的判断。
-
(arXiv cs.AR)——系统性评估了 PIM(存内计算)+ GPU 异构架构在 LLM 解码阶段的表现,揭示现有设计实践中被忽略的关键瓶颈:PIM 与 GPU 间的数据迁移开销在长文本生成场景下可能抵消 PIM 的能效优势。
-
(arXiv cs.AR)——提出统一 HPC(硬件性能计数器)抽象层,解决嵌入式 SoC 中 CPU/加速器/互连/内存控制器各自独立监控、难以协同调优的痛点。
3️⃣ AI 推理优化(数据中心)
-
(arXiv cs.DC)——针对 MoE 大模型推理中 AFD(Attention 与 FFN 物理分离)架构,在给定硬件预算和 TPOT SLO 约束下求解最优部署配置。填补了 AFD 从「能跑」到「最优跑」之间的工程空白。
-
(arXiv cs.DC)——Split 推理(终端跑 head/tail、云端跑中间层)面临中间激活传输瓶颈,RAC 利用上一层的激活分布作为参考,在保持精度的同时大幅压缩跨网络传输量。
-
(arXiv cs.DC)——在云端大模型 + 边缘小模型的投机解码架构中,上链带宽受限时候选 token 排队导致验证端闲置。AsymSpec 以调度策略同时利用边缘空闲算力做乐观推理,缓解 stop-and-wait 的效率损失。(边缘侧影响见第 8 类)
5️⃣ AI 安全与治理
-
(HN 822)——这是 DeepMind 成立以来最大规模的高层重组。Hassabis 转任 Chair 意味着日常运营权交接,而 Jeff Dean 的离开标志着 Google AI 一个时代的落幕。HN 讨论量爆炸,社区关注焦点集中于 Google 内部 AI 路线是否将迎来方向性调整。
-
(HN 136)——Sol 模型推理效率与质量双提升,同时 Luna 向免费用户扩大开放,表明 OpenAI 在模型服务化与免费 tier 策略上持续加码。
6️⃣ 具身智能
-
(arXiv cs.AR)——扩散型 VLA 模型需以 50–200Hz 控制频率运行,边缘设备算力与功耗均吃紧。Deltoris 结合位级稀疏化与投机推理两重优化,首次将扩散 VLA 推至边缘实时推理门槛。
-
(arXiv cs.RO)——将人类视频数据筛选建模为推荐问题:给定机器人演示,自动检索「最相似」的人类自我中心视频用于 VLA 后训练,避免盲目堆数据。
-
(arXiv cs.RO)——VLA 策略在部署时的分布偏移(杂物/光照/指令改写)常导致静默失败。SAFECAST 提出对比集训练 + 功能保形预测的检测框架,在不重新训练策略的前提下给出可靠的风险判断。
-
(arXiv cs.RO)——在双方各自持有私密目标的协作搭建任务中,将决策分解为心智推理、分层规划、对话解读、动作验证与协调五步,以 Dec-POMDP 建模支撑零样本泛化。
-
(arXiv cs.RO)——集成开放词汇检测、多视角分割与实例级 3D 重建的模块化感知管线,专注餐具抓取等日常家庭任务。
7️⃣ AI 自动算子与代码生成优化
-
(arXiv cs.DC)——同一矩阵、同一 SpMM 操作,cuSPARSE 的 CSR 与 Blocked-ELL 格式间性能差距可达 350×。SparseDitto 用 LLM agentic 系统自动为输入稀疏模式选择/生成最优 kernel,避免了人工逐 case 调优的不可扩展性。这是 LLM 辅助 GPU 编程从玩具走向工程的关键一步。
-
(arXiv cs.DC)——首个系统性评测 LLM 生成 GPU 通信原语(NCCL 级集合通信)的 benchmark。结论:当前模型在正确性上尚可,但在高效利用 NVLink/RDMA 拓扑上表现惨淡——暴露了 LLM 在硬件感知代码生成上的核心短板。
-
(arXiv cs.AR)——芯片设计中 EDA 工具产生大量异构制品(源码/脚本/日志/网表/报告),EDATracer 用 LLM agent 自动跨制品关联分析,目标是把设计调试与优化从「人工 grep + 翻报告」升级为 agent 驱动的结构化搜索。
8️⃣ 边缘与端侧推理
-
(arXiv cs.AR)——全面梳理模糊逻辑系统在边缘硬件上的实现方案,从 FPGA/ASIC 到新兴存内计算平台,重点解决实时边缘推理的延迟不可预测与功耗失控问题。
-
(arXiv cs.AR)——ViT 进入安全关键型边缘应用(自动驾驶/医疗)后,硬件软错误的可靠性成为硬要求。CheckOne 提出一种基于算法的轻量容错方案,目标是在端侧功耗预算内提供与三模冗余接近的保护级别。
-
(云-边缘投机解码)与第 6 类 Deltoris(边缘 VLA 实时推理),两者均直击端侧推理的核心瓶颈。