AI Infra 全栈从入门到精通
一个专为 AI Infra(人工智能基础设施)工程师 打造的硬核学习站。知识体系采用 「L0–L6 七层技术栈分层 × 职级梯度(Engineer / Senior / Architect)× 三大支柱(硬件架构 / 编程与编译 / 训推框架)」 的三维模型。下面是完整技术栈架构图 —— 点击任意知识点卡片可直达对应章节。
配套实战仓库
各章「动手实践」的可运行代码已汇总至独立仓库 ai-infra-labs,目录结构与 L0–L6 章节一一对应。在 RTX 3060 Laptop(6GB)上已跑通 python scripts/run_all_labs.py 全量验证(48 核心 lab + 8 个需 Docker/大模型下载的扩展 lab)。
git clone https://github.com/blueyi/ai-infra-labs.git
cd ai-infra-labs && python3 -m venv .venv && source .venv/bin/activate
pip install torch && pip install -r requirements.txt
python L0-foundations/hands-on-environment-baseline/hello_infra.py
python scripts/run_all_labs.py
# AWQ / vLLM 等重依赖 lab 另建 Python 3.12 环境:
# uv venv --python /usr/bin/python3 .venv-sys && source .venv-sys/bin/activate
① 完整技术栈架构(L6 应用 → L0 基础)
自顶向下呈「栈」形态:上层应用依赖下层基建。每张卡片左侧色条标注其所属三大支柱(横切 L1–L6)。
硬件架构编程与编译训推框架数据(点击任意知识点卡片进入对应章节)
场景应用场景层三大落地版图(点击进入 L0.1)
核心算力与通用模型基座Model-Centric Infra
- 中心化超大规模训推:OpenAI、Anthropic、字节豆包
- GenAI Apps:Midjourney、Runway、Character.ai
- 具身智能机器人:特斯拉 Optimus、Figure AI、宇树
- 自动驾驶:特斯拉 FSD、华为乾崑、小鹏 XNGP
- 端侧 AI:Apple Intelligence、高通/联发科端侧
- AI for Science:AlphaFold 3、盘古气象
- 工业制造:西门子工业 AI、cuLitho 计算光刻
- 企业 RAG/Agent:BloombergGPT、银行智能投研
L6应用架构RAG · Agent · 治理
L5MLOps / LLMOps实验 · 流水线 · 可观测
L4推理与 Serving引擎 · 加速 · 成本部署
L3分布式训练并行策略 · 显存优化 · 框架
L2数据 / 算子 / 编译数据管道 · 向量库 · 算子编译
L1算力与编排硬件加速器 · 调度编排
② 职级梯度学习路径(递进关系)
同一套知识体系按职级递进展开深度:Engineer 落地与工具链 → Senior 极限优化与平台工程 → Architect 全局架构 · FinOps · 技术战略。
阶段一Engineer落地与工具链组装
阶段二Senior极限优化与平台工程
阶段三Architect全局架构 · FinOps · 技术战略
阶段一Engineer落地与工具链组装
阶段二Senior极限优化与平台工程
阶段三Architect全局架构 · FinOps · 技术战略