路线图
01 模型推理基础
学习目标:讲清楚一次 LLM 请求从 prompt 到输出 token 的完整过程,理解 MoE 模型"总参数大、激活参数小"的含义,建立 Prefill/Decode 资源需求相反的核心认知。 重 …
学习目标:讲清楚一次 LLM 请求从 prompt 到输出 token 的完整过程,理解 MoE 模型"总参数大、激活参数小"的含义,建立 Prefill/Decode 资源需求相反的核心认知。 重 …
命令行 · 文件系统 · 权限 · 进程 · 网络 · Shell —— 运维地基。
Linux 运维基础 · 第一章 目标:理解终端和 Shell 的关系,掌握命令行基本操作,学会查阅手册 1. 终端 vs Shell 的区别# 很多人把"终端"和"Shell" …
学习目标:能构建一个稳定 LLM 应用接口,支持结构化输出、多轮状态和基础函数调用。这是 Agent 的地基——Agent 首先是一个稳定的大模型应用,而不是一段随意 prompt。 重点度:必会(8 分) 前置要求 …
概述# SRE(Site Reliability Engineering,站点可靠性工程)是 Google 于 2003 年创立的一套工程实践体系,核心主张:用软件工程的方法解决运维问题。它不是传统运维的"换一 …
学习目标:能部署 vLLM/SGLang 推理服务,通过 OpenAI-Compatible API 完成调用;能用 TP/PP 部署大模型到多卡;建立"引擎跑单模型、编排层管多节点"的分层认知;掌 …
DevOps 不是一个工具,也不是一个团队,而是"开发(Dev)"和"运维(Ops)"之间协作方式的一次工程化重塑。它的目标用一句话讲清:让代码从提交到线上运行的过程更短、更可靠、 …
容器编排:核心概念 → 工作负载/网络/存储 → 生产运维与排障。