一条从理解 LLM 本质，到构建可控 Agent 系统的工程化学习路径
2025年，是Agent真正开始爆发的一年。它不再只是 Demo、Prompt 技巧或能力展示，而是被放进真实业务系统中，开始承担明确职责，也开始暴露真实问题。
我从 2024 年 开始做 LLM 和 Agent 相关项目，有过几次真正落地的，也有不少因为方向判断失误、工程复杂度失控而中途终止的项目。
过程中踩过不少坑，有一些比较简单，比如
- 阿里云百炼接口处理用参数temperature控制输出，最好再加上
seed参数以便于结果复现。 - 部分推理模型调用时要加extra_body传参{"enable_thinking": true}才能真正让它进行推理。
langchain_openai默认会吞掉reasoning_content，导致收不到推理过程的内容，可以通过猴子补丁的方式修复。
还有一些比较复杂，是架构设计和能力边界的问题，比如
-
把 Prompt 当成逻辑层使用 一开始为了省事，把判断条件、分支选择、状态切换全写进 Prompt。 Prompt 越写越长，也越来越“聪明”，但问题也随之出现： 很难调试、很难复现，任何一句话的微调，都可能引发完全不同的行为。 到后面你会发现，系统不是坏在模型能力上，而是坏在逻辑藏在自然语言里，没人能真正控制它。
-
工具列表失控，模型不知道该用什么 工具越加越多，却缺少清晰的边界和分工。 对模型来说，这不是“能力增强”，而是决策负担： 相似功能的工具混在一起，调用条件模糊， 有时选错工具，有时干脆不用工具，行为看起来像“随机发挥”。 问题不在模型，而在于你并没有真正告诉它：什么时候该用、什么时候不该用。
-
没有给 Agent 设定清晰的能力上限 一些本就不适合模型判断的问题，被强行交给模型处理； 一些本该由人介入兜底的灰色区间，被乐观地当成“可以自动化”。 在小规模测试时，这类问题很难暴露， 但一旦进入真实场景，失败会成批出现，而且往往是系统性失败，不是修几个 Prompt 就能解决的。
在不断失败、复盘、修正的过程中，我开始系统性地整理这些经验，并借助 AI 一起校对认知与表达，逐步沉淀出了这份 《100 天搞定 Agent 开发》。
它一方面是我自己的工程笔记和认知复盘，另一方面，也希望能为正在或准备进入 Agent 开发的工程师，少走一些我已经走过的弯路。
整个路径中，大量内容基于真实工程实践，配合主流开源框架的实战，包括但不限于：LangChain、LangGraph、Gradio、Agno、Mem0、Vanna、Langfuse 等。 整个学习路径结构大致如下：
- Week 1–2：先从 LLM 的底层原理出发， 随后通过一个完整的实战项目，开发一个带 UI、支持多模态和深度思考的英语学习 Agent，建立对 Agent 的整体认知。
- Week 3–7：深入学习 Agent 的各个关键组成， Prompt 工程、工具调用、知识库、上下文工程、记忆系统。
- Week 8–11： 关注 Agent 开发与传统软件开发真正不同的地方，以及常见的 Agent 模式。
- Week 12–15：通过多个综合项目，把前面的模块与模式串起来，从“能写 Demo”，走向“能支撑复杂系统”。
- 有编程基础，想系统性进入 Agent / AI 工程 的开发者
- 用过 LLM / LangChain，但感觉「越写越乱」的人
- 关心 可维护、可演进 Agent 架构 的工程师 / 架构师
这是一个持续演进的项目，结论来自真实实践，也欢迎被修正。
👉 欢迎 Issue / Fork / PR / Contribute
如果你也准备在 2026 年做 Agent，希望这个 repo 能对你有帮助。
本教程文档，默认运行在 Python + Jupyter Notebook 环境中
a.安装 uv
pip install uvb.在项目根目录执行按照依赖：
uv syncc.环境变量配置
cp .env.example .env在 .env 文件中配置自己的 API Key
uv run jupyter notebook成功启动后打开浏览器进行访问即可，默认地址为 http://localhost:8888
建立对大语言模型的“第一性理解”：
- 模型在“算什么”，而不是“看起来会什么”
- 为什么它能表现出类智能行为
- 为什么它天然不稳定、不可控、但又非常有用
Day 1 ｜大语言模型到底在干什么
- 什么是 LLM（大语言模型）
- 「预测下一个 token」的真实含义
- 为什么一个“预测器”能产生看起来像智能的行为
Day 2 ｜ Token、Embedding 与向量空间
- 什么是 Token，为什么 LLM 的基本单位是 Token
- Embedding 是什么，它解决了什么问题
- 相似性、类比、联想在向量空间中如何体现
Day 3 ｜ Transformer：模型的计算引擎
- 为什么 RNN 不够用，Transformer 出现的背景
- Self-Attention 在“算什么”
- Layer 在模型中承担的角色
Day 4 ｜从训练到推理：模型是怎么“学会语言”的
- 预训练阶段模型在做什么
- 训练过程是怎样的
- 训练阶段 vs 推理阶段
Day 5 ｜概率、随机性与不稳定性
- 为什么同一个问题多次询问会得到不同答案
- temperature等参数
- LLM 擅长什么，不擅长什么
Day 6 ｜一次 LLM API 调用，到底发生了什么？
- 核心要素
- 一次完整调用过程说明
- 一次调用中的“可控点”与“不可控点”
Day 7 ｜思考 & 补充学习资料
- LLM 在回答问题时，它真的“理解”了吗？
- 模型输出的一句话，本质上是什么？
- 为什么模型“会在常识问题上犯低级错误”？
基于Langchain和Gradio动手实现一个英语学习 Agent
Day 8 ｜用 LLM 生成英文学习内容
- 了解LangChain
- 调用LLM生成英语文本，如简单句子、段落、词汇解释
Day 9 ｜ 前端交互
- 了解Gradio
- 基于Gradio实现英语学习界面
- 通过界面与Agent进行交互
Day 10 ｜多轮对话
- 构建对话型 Agent，可连续辅导用户写作
- 保存上下文，逐轮提供修改建议
Day 11 ｜流式生成
- 支持流式生成英语内容
- 提升交互体验
Day 12 ｜多模态
- 支持语音输入和图片输入
- 实现英语听力、阅读辅助
Day 13 ｜深度思考
- 实现作文评分、复杂阅读理解分析
- 引导模型进行 chain-of-thought 生成
Day 14 ｜思考 & 补充学习资料
- LangChain 在这里解决了什么？
- “模式切换”本质是什么？
- 流式输出到底发生在什么层？
- 一次对话，真正“不可控”的部分是哪一步？
学习提示词工程的底层逻辑、通用技巧、和优化迭代技巧
Day 15 ｜ 提示词工程的底层逻辑
- Prompt 是什么，不是什么
- Prompt 的真实作用
- Prompt 适合做什么,不适合做什么
Day 16 ｜ Prompt 的通用技巧
- 编写 Prompt 的通用技巧
- 编写 Prompt 需要注意什么
Day 17 ｜零样本提示与少样本提示
- 零样本与少样本
- 示例数量为什么“少而精”
- 何时不该用少样本
Day 18 ｜思维链
- 单 Prompt 的天然局限
- 思维链的基本思想
- CoT vs 一次性长 Prompt
- 思维链的延伸
- 为什么自然语言输出不可控
- 常见结构化方式
- 结构化输出的作用
- 为什么一次写好 Prompt 几乎不可能
- 常见失败模式
- Prompt 迭代的基本流程
- Prompt 本质上在做什么？
- Prompt 在系统中的位置, 以及能解决的上限
- Prompt 如何配合工程能力
学习基于 LLM 工具调用和原理，基于 langchain 的工具调用实现和 MCP 的设计开发
- LLM 的三大天然缺陷
- 工具在系统中的角色
- 什么是工具调用(Tool / Function Calling)
- Tool Schema 的本质（能力描述）
- 模型在 Tool Calling 中做了什么
- 基于 langchain 实现 LLM 的工具调用
- Tool Calling 的问题
- 什么是 MCP
- 基于 fastmap 实现一个 MCP Server
- 基于 cherry studio 连接 MCP Server
- 什么是技能
- 开发一个简单的技能
- 如果不使用工具，LLM 的能力上限在哪里？
- 当工具越来越多时，会发生什么？
- 如果把模型换掉（更弱 / 更强），你当前的工具系统还能正常工作吗？
学习知识库相关知识，并基于 llamaindex 和 lightRAG 进行知识库实战
- 预训练知识的限制
- 预训练知识 vs 私有知识 vs 实时知识
- 为什么 Prompt 永远解决不了“事实正确性”
- RAG 的四个不可省略步骤
- 为什么检索一定是“模糊但可控”的
- RAG ≠ 搜索引擎
- RAG ≠ 把资料塞进 Prompt
- LlamaIndex 简介
- LlamaIndex 入门
- 为什么“垃圾进 → 垃圾出”在 RAG 中更严重
- 如何调优分片策略
- 如何评估分片效果
- LightRAG 简介
- LightRAG 入门
- 基于 LlamaIndex 或 LightRAG 搭建一个知识库
- 知识库在 Agent 系统中的位置
- 知识库能解决的上限
- 知识库不能解决的问题
学习上下文工程并基于 langchain 进行实战
- Context ≠ 对话历史
- Context 是一次 LLM 调用的全部可见输入
- Context 与 token window 的硬约束
- 为什么“上下文失控”会直接导致推理失败
- 一次调用里通常有哪些信息
- 不同信息的优先级
- 顺序是否重要
- 多轮对话是如何线性膨胀的
- 为什么不能“全部塞进去”
- 历史对话对当前推理的真实价值
- 常见失败模式
- 裁剪 vs 摘要 vs 重写
- 时间窗口策略
- 语义摘要策略
- 结构化摘要
- 检索结果不是越多越好
- 分片与上下文的关系
- 知识库结果放在什么位置最合理
- 为什么 知识库 会“干扰推理”
- 基于 langchain 进行上下文工程实战
- 上下文在 Agent 系统中的位置
- 常见上下文设计反模式
- 哪些问题该用上下文解决，哪些问题不该用上下文解决
了解记忆系统及常见分类，并基于 langchain 和 mem0 进行实战
- Context 的不可持续性
- 没有记忆的 Agent 能做到什么
- 记忆与“智能体行为一致性”
- 建立对 Memory 的结构化认知。
- 学会“克制地记忆”
- 记忆覆盖 vs 追加
- 时间衰减策略
- 冲突记忆如何处理
- 为什么“忘记”是能力的一部分
- 记忆检索的触发条件
- 相关性过滤
- 记忆摘要进入上下文
- 记忆注入失败的常见原因
- 学习基于 langchain 实现记忆功能
- 学习基于 mem0 实现记忆功能
- 记忆系统 在 Agent 架构中的位置
- 上下文工程 与 记忆系统 的边界
- 常见记忆系统反模式
- 未来可扩展方向
学习 Agent 的基本架构，思维方式的转变，以及动手实现一个 Agent
- Agent 的定义
- Agent 的基本组成部分
- 理解 Agent 开发者心智模型的变化。
- 了解 Agent 的失败模式。
- 基于 langchain 实现一个完整的 Agent
- 基于 Agno 实现一个完整的 Agent
- 向别人解释什么是 Agent
- 你写的 Agent 什么时候会失败、为什么会失败？
- 如果把 LangChain / Agno 拿走，你是否仍然知道 Agent 应该怎么设计？
学习反思模式并进行实战应用”
- 没有反思的 Agent 会发生什么
- 重复错误与错误放大
- 单向执行系统的天然缺陷
- 人类问题解决中的“复盘机制”
- 学习什么是反思模式，以及与推理的区别。
- 常见触发条件与机制
- 反思输入
- 反思输出
- 哪些反思结果可以进入记忆
- 哪些只能作为一次性判断
- 为什么反思结论不能直接当事实
- 开发反思独立模块
- 可配置触发条件
- 明确“继续 / 调整 / 停止”三类输出
- 你的 Agent 是在什么时候触发反思的？
- 反思发生时，Agent 停止了什么？又接管了什么？
- 如果把“反思”模块拿掉，系统会以什么方式退化？
- 任务分解模式的学习 · 架构 · 实战”
- 人类如何自然分解复杂问题
- 一步到位为什么必然失败
- 什么是“好”的任务分解
- 适用场景
- 抽象结构
- 风险
- 优势
- 风险
- 适用场景
- 抽象结构
- 风险
- 常见失败
- 修复策略
- 构建一个任务分解模式的 Agent
- 你的 Agent 是在什么时候触发任务分解的？
- 任务分解发生时，Agent 停止了什么？又接管了什么？
- 如果把“任务分解”模块拿掉，系统会以什么方式退化？
HITL 模式的学习、设计与实战
- 为什么自动化一定会遇到“不可判定区间”
- 模型与 Agent 的责任边界
- 全自动系统的三种必然失败
- 什么是 Human-in-the-Loop
- 与“人工兜底”的区别
- Approval（审批型）
- Correction（修正型）
- Takeover（接管型）
- 常见触发条件
- 人类介入时必须看到的信息
- 错误示例与正确示例
- 构建一个支持 HITL 的 Agent
- 人是在什么情况下被拉进系统的？
- 人进来之后，能做什么、不能做什么？
- 人的决策是否会反向影响 Agent 的后续行为？
