如何打造简历级LLM项目:ai-engineer-notebooks的Capstone毕业设计完全指南(含Agile流程与面试清单)
【免费下载链接】ai-engineer-notebooks
Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.
在 ai-engineer-notebooks 中,Capstone 毕业设计是整个课程的最后一关:把一个真实用户的问题,做成一个可部署、可评测、写进简历的 LLM 项目。本文完整拆解 Capstone 的硬性要求、现代技术栈选型、Agile 流程模拟和面试准备清单,帮新手用一套"实习级"叙事,快速做出能拿给面试官看链接的简历级 LLM 项目。
为什么你的 LLM 项目不能只是一个 Notebook
很多人把毕设做成一个 Notebook,但在筛选中这会暴露"周末黑客"的信号,而不是生产级判断力。仓库里 CAPSTONE.md 开宗明义:
The notebooks teach the skills; this project is what goes on your resume.
🎯核心原则:把它建成一个真实的代码仓库,部署上线、可以链接,能经受 15 分钟"敌意提问"。
先照着看一遍:四个端到端案例研究
在动手之前,建议先读(并运行)案例研究 01-customer-support-assistant.ipynb,它演示了一个客服助手从模糊需求到部署上线、再到生产环境调试的完整弧线。
12-case-studies-and-capstone/README.md 中列出了四个案例:
| 案例 | 教会你的核心判断 |
|---|---|
| 客服助手 | 把模糊需求做成部署+评测系统,再在生产环境诊断质量回退 |
| 合同抽取:Pipeline vs Agent | 用准确率+Token 成本证明:步骤已知时,Pipeline 胜过 Agent |
| 红队鲁棒性基准 | 用 attacker→target→judge 循环测量模型鲁棒性 |
| 深度伪造检测 | "是否假图"与"是否违规"需要不同的检测工具 |
⭐ 关键洞察:面试和真实工作从不给你"实现一个 RAG 管线",而是给你"我们的客服团队快淹死了,帮忙"。这两句话之间的差距,就是这份工作。
Capstone 的五个不可妥协项(Non-negotiables)
这是简历级 LLM 项目与玩具 Demo 的分水岭,逐项对照检查:
- 真实数据—— 一份混乱的语料或工作流,而不是教科书级数据集(可参考 data/README.md 中的共享语料设计思路)
- 一个不是你的真实用户—— 朋友的公司、团队、开源社区。面试官会追问你如何把对方模糊的需求翻译成系统
- 一个 Serving 组件—— API 或应用,已部署、可链接,且你能在负载下推理其行为(对应 09-serving-inference/ 与 10-ml-system-design/ 章节)
- 一套评测方法—— 书面评测报告,随时间跟踪;"它能跑"不算评测(对应 04-evals/ 章节)
- 一份写作说明—— 用户问题、系统、评测结果、下一步计划
现代技术栈选型:从手写循环到框架
教学 Notebook 刻意"无框架"——你自己写 Agent 循环、RAG 和评测,理解每个库在做什么。Capstone 正是反转的时刻:组装真实技术栈,并准备好解释每个工具"它做什么、你为什么选它"。
这个"先手写、再上框架"的弧线本身就是一个强面试答案。按层选型(按需取用,不必全上):
| 层 | 选用 | 对应教学章节 |
|---|---|---|
| RAG / 编排 | LangChain、LlamaIndex 或 LangGraph | 03-rag/、05-agents/ |
| Serving / 推理 | vLLM 或 TGI(自托管);起步用托管 API | 09-serving-inference/01-serving-frameworks.ipynb |
| 推理性能 | continuous batching、量化、KV-cache 估算 | 09-serving-inference/02-inference-performance.ipynb |
| 微调(如果值得) | 通过 PEFT 做 LoRA / QLoRA | 06-adaptation/01-fine-tune-vs-rag-vs-prompt.ipynb |
| 实验跟踪与模型注册 | MLflow:跟踪每次评测运行,注册上线模型 | 08-operations/03-experiment-tracking-and-registry.ipynb |
| 可观测性 | tracing、安全日志、成本/延迟指标 | 08-operations/01-observability-and-llmops.ipynb |
你不是算法方向的候选人,没人期待你发明新模型。招聘信号是AI 分布式系统 / 应用工程:把现代技术栈接进一个已部署、已评测、可运维的系统,并有意识地做成本/延迟/质量权衡。
三种高胜率项目形态
📌 选一个你最容易拿到真实数据的形态:
- 基于真实混乱语料的 RAG—— API 后面提供服务,附带 MLflow 跟踪的评测报告,展示你测量了什么、因为测量改了什么
- 自动化真实多步工作流的 Agent—— 带护栏和成本预算,用 LangGraph 编排,端到端可追踪
- 当前工作中的内部 AI 工具—— 采纳率数字比架构图更有说服力
用系统思维的数字说话:QPS、成本与性能
这一层决定了你是"调了个 API"还是"拥有 Serving 层"。在写作说明中放一个简短的系统设计小节:
- 容量估算(Sizing)—— 沿用 10-ml-system-design/01-designing-an-inference-service.ipynb 的"餐巾纸算法":预期 QPS、每请求 Token 数,因此需要多少 GPU(或托管端点成本),以及 10 倍流量时哪里会先崩
- 性能—— 你实际拉动的一个性能杆及其测量效果(batching 吞吐、量化的质量/延迟权衡、Prompt 缓存),必须绑定一个数字
- 可靠性与成本—— 重试/超时/降级(08-operations/02-reliability-and-fallbacks.ipynb),以及月成本和你会调哪个旋钮来削减它
面试官会追数字。"约 40 峰值 QPS、70% 利用率下约 2 张 GPU、月成本约 $3k,量化后砍半"是及格答案;"部署在云上"不是。
Agile 流程与角色分工:让项目读起来像实习经历
这段经历要在简历上读起来是实习级项目,意味着你需要一个工作过程的故事,而不只是交付物。面试官会问:"你的角色是什么?团队怎么协作?需求变更怎么处理?"
双周 Sprint 节奏
- 用两周一个 Sprint:Backlog、Sprint 计划会、每日站会节奏、回顾会
- 工作以 Ticket 形式跟踪(Issues/Projects 即可)
- 即使是单人项目,也按 Sprint 叙述——这正是面试中讨论工作的方式
角色表:即使一人分饰多角,也要知道每个角色拥有什么
| 角色 | 负责 | 在本项目中 |
|---|---|---|
| 产品经理 (PM) | 用户问题、优先级、验收标准 | 范围界定文档(11-customer-craft/01-scoping-and-discovery.ipynb);"好"的定义 |
| 技术负责人 / EM | 架构、任务拆分、评审 | 系统设计(10);把工作拆成 Ticket |
| AI/ML 工程师 | Prompt、RAG、Agent、微调、评测 | 01–06 的大部分;评测 Harness |
| 平台 / MLOps | Serving、部署、CI、跟踪、注册 | 08–09;MLflow 与部署 |
| SRE / On-call | 可靠性、监控、事件响应 | 08/02;Runbook |
| QA / 评测负责人 | Golden set、回归门禁、放行签核 | 02、04;"现在能上线吗?" |
选一个你要写在简历上认领的角色(通常是 AI/ML Engineer),把它做深,并说清你如何与其他角色交接、依赖他们——这就是协作问题的答案。
💡 推荐 Mentor 角色扮演:让 Mentor 扮演 PM/利益相关方,给你模糊需求、Sprint 中途改需求、在 Demo 时质疑、在模拟评审中追问"为什么这个架构"。排练过程问题和排练技术问题同样重要——大多数候选人能描述系统,却在"团队是怎么做决定的?"上卡壳。
简历上的写法:流程 + 影响
CAPSTONE.md 给出了可直接套用的模板句式:
"为 [真实用户] 构建并部署了一个基于 [真实语料] 的 RAG 助手;在双周 Sprint 中负责 AI/评测层,用 vLLM 提供服务,配合 MLflow 跟踪的评测门禁;通过检索调优和量化把回答成本降低 40%,并用 50 条 Golden set 验证。"
结构是:范围 + 部署事实 + Sprint 过程 + 技术栈 + 一个数字化的改进。
上线前检查清单:面试准备清单(Interview Readiness Check)
上线前,逐行走一遍 docs/best-practices-and-anti-patterns.md,确认你的项目落在每一行的 ✅ 一侧。它是"构建这个时要注意什么?"这道面试题的标准答案表。
最终,确保你能"冷启动"回答以下六轮问题:
| 面试轮次 | 问题 | 回看章节 |
|---|---|---|
| 范围界定 | "你如何把用户模糊的需求变成这个系统?" | 11 |
| 技术深挖 | "讲讲你的检索/Agent 循环/评测,以及为什么这样选" | 03–06 |
| 系统设计 | "如何扩展到 10 万用户?" | 09–10 |
| 运维 | "你怎么知道它在线上还在正常工作?" | 08-operations/ |
| 安全 | "用户粘贴 Prompt 注入时发生什么?" | 07-security/01-prompt-injection-and-trust.ipynb |
| 协作 / 流程 | "你的角色是什么,团队如何交付的?" | 12-case-studies-and-capstone/CAPSTONE.md |
任何一个答案不扎实,对应章节的 Notebook 就是你要回去的地方。
学习路径速查:从 00 到 12 的路线
按顺序完成即可,每个 Notebook 都自带依赖安装与练习:
- 00–01:环境配置(00-setup/00-environment.ipynb)与模型 API 基础(Prompting、结构化输出、Tool Calling)
- 02–04:评测是主干——"先测量,再调优"的习惯在这里养成
- 03:RAG 五连:是什么、嵌入检索、混合+重排、分块、失败诊断
- 05:Agent 六连:从零手写循环、工具设计、护栏与预算、MCP、Skills、Harness 工程
- 06–07:LoRA 微调的决策边界、Prompt 注入与信任边界
- 08–10:LLMOps、可靠性与 MLflow、Serving 框架、推理性能、系统设计
- 11–12:客户工程(Scoping)与 Capstone 毕业设计
🏁最后提醒:所有 Notebook 都跑在免费的 Groq API 上(无需信用卡),LoRA 与自托管 Serving 两个 Groq 无法覆盖的主题,提供概念先行 + 可选 Colab-GPU 附录。学习是免费的,而你的 Capstone 应该读起来像一份实习经历——这就是 ai-engineer-notebooks 从第 00 章到第 12 章为你铺好的路。
【免费下载链接】ai-engineer-notebooks
Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.
相关推荐
Capstone毕业大项目:构建生产级Multi-LLM多租户平台(Ultimate AI Engineer Roadmap 2026终章实战)
Capstone毕业大项目:构建生产级Multi LLM多租户平台(Ultimate AI Engineer Roadmap 2026终章实战) Ultimat
终极指南:如何使用开源简历设计生成器快速打造专业简历
终极指南:如何使用开源简历设计生成器快速打造专业简历 想要制作一份令人印象深刻的专业简历,却苦于没有设计经验?resume design 是一款完全开源的免费简
TrenTorch Benchmarking与Capstone毕业项目:如何给你的自建ML框架打性能分并提交(完整指南)
TrenTorch Benchmarking与Capstone毕业项目:如何给你的自建ML框架打性能分并提交(完整指南) TrenTorch 是一个"从第一性原
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考