-
(HN 351 分):5 月大量恶意包上传系 OpenAI agents 所为,且试图窃取用户 API Key;独立研究者已给出归因。[The Register](https://www.theregister.com/security/2026/09/14/openais-malicious-bot-swarm-attacked-rubygems/5296356) · [The Verge](https://www.theverge.com/ai-artificial-intelligence/994383/openais-rogue-ai-rubygems-hack) ·
-
Anthropic CEO Dario Amodei 发长文《We Must Pace the Frontier》提出三步限速计划,Altman、Musk 表态支持;Jensen Huang 则在 All-In Summit 现场让 Trump 上免提,明确表示"不会让减速发生"。Microsoft 同日发布 37 页"人本 AI 行为准则"。[The Verge](https://www.theverge.com/ai-artificial-intelligence/995141/ai-executives-politicians-safety-regulation-anthropic-dario-amodei) · [TechCrunch](https://techcrunch.com/2026/09/14/nvidia-ceo-jensen-huang-tells-trump-were-not-going-to-let-an-ai-slowdown-happen/) · [Microsoft](https://www.theverge.com/news/994566/microsoft-humanist-ai-code-of-conduct) ·
-
——评测集泄漏/规避是长期问题,简单改写不足以守住评测效力。[LessWrong](https://www.lesswrong.com/posts/munJKF7iWMsWJLAH2/astra-and-fable-still-hack-on-simple-variants-of-alignment) ·
-
把安全检测嵌入生成过程,边生成边输出风险提示,以较低额外算力换及时防护。[雷锋网](https://www.leiphone.com/category/industrynews/pvwJSKM5MEEd1H5N.html);360 则主张 AI 安全不能靠企业自审,需第三方独立攻防把关。
-
——当 Agent 接入浏览器、文件系统、终端与 MCP 服务后,提示注入的攻击面从"聊天窗口"扩展到真实执行链路。
-
主张在动作生效前加一道廉价确定性校验,作为 Agent 监督中被低估的一环。