Agent 全栈实战

1.1 从聊天机器人到 Agent#

这一章,咱们要解决一个最基础、也最容易被跳过的问题:

大模型到底是什么,它为什么能回答问题,又为什么不能直接拿来当 Agent?

很多同学一上来就学 LangChain、学 MCP、学多 Agent,结果搭出来的东西一跑就散。不是框架学得不够,是底下这层没打牢。

所以第一节,咱们不写复杂代码,先做三个小实验。

你打开任意一个聊天工具都行,ChatGPT、DeepSeek、豆包、通义,随便哪个。

实验一:同一句话,加不加“身份”,回答完全不同#

先问它一句:

客户买了 3000 元的课程,现在想退款,能退吗?

你会得到一段很“正确”的回答:要看平台政策、要看是否超过退款期限、建议联系客服……

听起来没毛病,但也没用。因为它不认识你的公司,不知道你的规则。

现在,关掉这个会话,重新开一个,把身份和规则一起给它:

你是星河零售的售后客服。公司规则:订单金额超过 2000 元的退款,必须转人工审核。现在客户订单 A1024,金额 3000 元,要求退款。请直接回答客户。

这一次,回答会变得具体:需要转人工审核,因为金额超过了 2000 元。

模型变聪明了吗?没有。

变的是你递给它的上下文:上一轮它只有“一个问题”,这一轮它有了“身份 + 规则 + 订单信息”。

它只是根据这次能看到的内容,往下接话。

实验二:编一条不存在的规则,看它怎么办#

再问一句:

根据《蓝鲸售后条款》第 7 条,退款应该怎么处理?

这里有个坑:《蓝鲸售后条款》是我瞎编的,现实里没有。

模型大概率会两种反应:要么说“没有找到这个条款”,要么一本正经地编一条出来。

不管哪种,都说明它不知道你公司的规则。

现在你把“条款”贴给它:

《蓝鲸售后条款》第 7 条:生鲜类目不支持 7 天无理由退货,其余类目支持 48 小时内原路退回。

再问同样的问题,它就能按条款回答了。

同一份规则,贴进去它就会用,不贴它就不会。

这就是第二章 RAG 要解决的事:把公司文档、制度、知识库,在提问的那一刻塞进上下文。

实验三:它真的“记得”你吗#

在一个会话里告诉它:

我叫张三,做 Node.js 开发。

然后问:“我叫什么?做什么的?”

它答得出来。

现在关掉窗口,重新开一个会话,再问一遍。

它不认识你。

为什么?

因为“记得”这件事,根本不在模型里。它发生在你这次发过去的消息列表里。

你把历史消息一起发过去,它就“记得”;你不发,它就不记得。

这就是第五章 Memory 要解决的事:怎么把该记的记下来,怎么在下一次会话里找回来。

三次实验,指向同一个结论#

咱们把三件事摆在一起看:

实验你改了什么它的表现
加身份和规则上下文里多了规则回答从空泛变具体
贴一条编造的条款上下文里多了条款从不置可否变照章办事
换一个新会话上下文里少了历史从“记得你”变“不认识你”

结论只有一句:

模型每次只能看到你这次递给它的上下文,它不会自动去查、去记、去办。

这句话听起来简单,但它是后面所有章节的地基。

RAG 是在解决“查”的问题,Memory 是在解决“记”的问题,Tool Calling 和 MCP 是在解决“办”的问题。

那聊天机器人和 Agent 差在哪#

先把三个容易混的东西分清楚。

大模型(LLM):一个函数。输入一段文本,输出下一段文本。它本身没有记忆、没有手、没有眼睛。

聊天机器人(Chatbot):大模型 + 一个聊天界面 + 一份消息历史。它负责“聊”,不负责“办”。

Agent:大模型 + 一个目标 + 一组工具 + 一个“看结果、再决定下一步”的循环。

前两个是“你问,它答”。第三个是“你给目标,它自己想办法”。

举个具体的例子。

用户说:“帮我处理订单 A1024 的退款。”

聊天机器人会回答:“建议您联系客服处理。”

Agent 会这么做:

  1. 调 queryOrder('A1024'),拿到金额 3000、状态“申请退款”;
  2. 调 checkRefundPolicy(3000),拿到“超过 2000,需人工审核”;
  3. 调 createTicket(...),生成一张人工审核工单;
  4. 把结果组织成一句话,回复客户。

这四步里,模型只负责“决定下一步调什么”和“把结果说成人话”。查订单、比阈值、建工单,都是普通代码。

Agent 的能力,不在模型一次回答得多好,而在它能不能根据工具返回的结果,调整下一步。

一个最小 Agent 循环#

把上面四步抽象一下,就是一个循环:

text
while (目标还没完成) {
  想一下:下一步该做什么
  调用一个工具
  看工具返回了什么
  根据返回结果,决定继续、换方法,还是停
}

写成伪代码,大概长这样:

js
let done = false
let step = 0

while (!done && step < 10) {
  const action = await decideNextAction(goal, history)
  if (action.type === 'finish') {
    done = true
    break
  }
  const observation = await runTool(action.name, action.args)
  history.push({ action, observation })
  step += 1
}

这里有三个关键点,后面每一章都会反复出现:

  1. 有目标:不是“随便聊聊”,而是“把这件事办完”。
  2. 有工具:模型不能直接操作数据库,它只能“请求调用”,真正执行的是你的代码。
  3. 有反馈:工具返回结果要回到上下文里,模型才能根据结果改主意。

少一个,就不是 Agent。

只有目标没有工具,那是聊天机器人。

只有工具没有循环,那是一次函数调用。

有循环但不看结果,那叫“闭着眼睛重试”。

几个容易误解的点#

PS 1:Agent 不是“更聪明的模型”。

它是“模型 + 工程”。同一个模型,套上好的工具和循环,能办事;套上烂的,照样翻车。

PS 2:不要一上来就上框架。

LangChain、LangGraph 是把循环写得更稳的工具,不是循环本身。你先得知道循环长什么样,才知道框架帮你补了哪块。

PS 3:“Agent”这个词被用滥了。

能自动补全邮件,不叫 Agent;能自己决定查哪个库、查不到换策略、办完了还会校验,才叫 Agent。

PS 4:本节三个实验要在网页端手动做。

不用写代码,但需要你自己开一个会话、改一版输入。不同模型的措辞会有差异,但“加规则就具体、贴条款就会用、换会话就不认识”这三个现象是一致的。

总结#

这一节咱们做了三个实验,得到三句话:

  • 模型只看本次上下文,所以规则要递进去(RAG)。
  • 模型没有记忆,所以历史要自己管(Memory)。
  • 模型没有手,所以工具要自己接(Tool Calling / MCP)。

而 Agent,就是把这四件事(模型、上下文、工具、循环)组装起来的一个系统。

下一节,咱们先把名词理清楚:AI、机器学习、深度学习、大模型、Agent,这五个词到底是什么关系。面试里第一个问题,通常就是这个。