从全栈监控、分布式链路追踪、SLO 告警到成本可观测,构建大模型推理/训练集群的可观测性体系与 SRE 工程实践。
多模型路由、边缘-云混合推理与容量规划的成本工程,配套一套推理慢路径排障 playbook 与可在纯 CPU 跑通的双模型路由网关实验。