Agent 全栈实战

1.10 第一章怎么写进简历#

学完一章,最常见的状态是:感觉自己懂了,但说不出来。

说不出来,简历上就写不上去;简历上写不上去,面试就张不开嘴。

这一节,咱们把第一章的九节内容,压缩成三样东西:

  • 一段能背下来的知识回顾;
  • 三条简历技能;
  • 八个面试问答。

先说明一句:下面的简历写法是示例,不是让你照抄。你得改成你真实做过的部分。

先回顾:这九节到底讲了什么#

1.1 聊天机器人不是模型。

模型只根据本次能看到的上下文生成。聊天机器人是壳,Agent 是能自己选行动、看结果、继续推进的系统。

1.2 AI、机器学习、深度学习、大模型、Agent 是五个词。

AI 是大领域,机器学习是实现方法,深度学习是多层神经网络,大模型是深度学习里的一类,Agent 是用它们搭出来的应用系统。不是套娃包含关系。

1.3 生成是一个 Token 一个 Token 往外蹦。

Logit → Softmax → 采样 → 拼回上下文 → 再预测。自回归,直到 <EOS>。

1.4 Token 是切出来的最小单位。

同一个词在不同模型里可能切得不一样。Token 数直接决定上下文长度、成本和首字延迟。

1.5 模型看到的不是聊天框,是 messages 数组。

system、user、assistant、tool 四种角色。多轮对话的本质,是每次把历史重新发一遍。

1.6 Context Window 是上限,Context Budget 是分配。

窗口 = 输入 + 输出 + 即将生成。预算要留给系统指令、当前问题、历史、RAG、工具结果和输出。

1.7 幻觉是机制的副作用。

温度只改“选的倾向”,不改“对不对”。结论用代码算,表达才交给模型。

1.8 不是所有任务都值得上最贵的模型。

路由顺序:代码 > 多模态 > 推理 > 普通文本。路由要带限流、重试、降级。

1.9 Attention 决定“看哪”。

Q 找、K 被找、V 是内容;点积算相关性,Softmax 转权重,加权汇总。计算量 O(n²)。

三条简历技能#

写法公式:

理解什么机制 + 能解决什么问题 + 用了什么技术。

示例(按需删改):

text
· 理解大模型自回归生成、Token 切分与 Context Window 机制,
  能定位上下文溢出、首字延迟、Token 成本偏高等问题;
· 熟悉 Prompt 与多轮 Message 组织,能设计 system 约束、
  历史裁剪与摘要策略,控制单次调用成本;
· 理解幻觉成因与 Temperature/Top-p 采样,能通过
  “代码定结论 + 模型做表达”降低业务错误率。

注意:每条都落到“能解决什么”,不是“了解某某”。

项目经历怎么写#

结构固定四段:项目名 / 技术栈 / 项目介绍 / 负责内容。

text
项目名称:企业退款客服 Agent(课程实战)

技术栈:Node.js、DeepSeek API、Function Calling、RAG

项目介绍:面向电商退款场景的客服助手,支持订单查询、
规则判断、多轮追问与人工审核转交。

负责内容:
· 设计 messages 组织与上下文预算策略,将单次输入从
  202 Token 裁剪到 107 Token,保留最近完整轮次与摘要;
· 用代码实现金额阈值判断,模型仅负责话术改写,
  消除模型越权决策与金额幻觉;
· 实现任务路由:规则类任务零模型调用,简单改写走小模型,
  复杂分析走推理模型,降低约 60% 调用成本;
· 增加 Key 校验、429/503 降级与重试,避免单点故障;
· 输出结构化 JSON 作为权威结果,前端与下游系统只读该字段。

这五条,每一条都能对应到章节里的一个 demo:

  • 第二条 → 05 节的 messages;
  • 第三条 → 06 节的预算;
  • 第四条 → 07 节的退款 Agent;
  • 第五条 → 08 节的路由;
  • 最后一条 → 07 节的结构化输出。

面试官追问哪条,你都有代码可讲。

八个面试问答#

Q1:大模型、聊天机器人、Agent 有什么区别?#

大模型是参数和权重,负责“预测下一个 Token”;聊天机器人是带界面和会话管理的产品;Agent 是能围绕目标自主选择行动、读取结果、继续推进的系统。

一句话:模型是发动机,聊天机器人是车,Agent 是能自己规划路线的司机。

Q2:为什么“预测下一个 Token”能回答复杂问题?#

因为训练把大量知识压缩进了参数。预测下一个 Token 时,模型不是查表,而是根据上下文激活相关的模式和推理路径。

复杂推理可以拆成很多个“下一个 Token”的预测,每一步都为下一步提供条件。

但它仍然是在预测,不是在核实。

Q3:Token 是什么?为什么影响成本?#

Token 是 Tokenizer 按词表和规则切出来的最小单位。它不等于字,也不等于词。

影响三件事:上下文能放多少内容、按 Token 计费的成本、逐 Token 生成带来的首字延迟。

同一个中文句子,不同模型切出来的 Token 数可能不同。

Q4:用户发一句话,模型到底收到什么?#

不是一句话,是一个 messages 数组:

json
[
  { "role": "system", "content": "你是客服……" },
  { "role": "user", "content": "我的订单能退吗?" }
]

多轮时,历史会被重新组织进这个数组。聊天框只是前端。

Q5:Context Window 和 Context Budget 有什么区别?#

Window 是硬上限,模型一次能处理的 Token 总数;Budget 是软分配,你在调用前决定系统指令、历史、RAG、工具结果、输出各占多少。

Window 是“杯子多大”,Budget 是“水怎么倒”。

Q6:Temperature 调到 0,还会幻觉吗?#

会。

温度只改变采样分布的形状,不改变模型的知识边界。最高概率的候选如果本身就是错的,温度再低还是选它。

降幻觉要靠资料、约束、结构化输出和外部校验。

Q7:怎么给一个任务选模型?#

先排除:合规、上下文、工具调用不满足的直接去掉。

再压成本:能用小模型先用小模型跑评测。

最后看体验:延迟、稳定性、限流。

顺序是“能不能用 → 贵不贵 → 快不快”,不是“哪个最强”。

Q8:Q、K、V 分别是什么?Multi-Head 有什么用?#

Q 是当前 Token 的查询,K 是前文的索引,V 是前文的内容。Q 和 K 点积算相关性,Softmax 转权重,再对 V 加权求和。

Multi-Head 是并行多个注意力头,每个头学不同的关系(指代、语法、数字比较等),最后拼接。

怎么练#

别背答案,做三件事:

  1. 把每个 Q 用自己的话讲一遍,录音,听哪里卡住;
  2. 打开对应 demo,改一个参数,看输出怎么变;
  3. 找一个你真实做过的项目,把上面的模板填一遍。

能讲清楚“我改了什么、结果怎么变”,比背定义有用得多。

总结#

这一节没有新知识,只有一件事:把知识变成能说出口的东西。

三条技能、五条项目、八个问答,够你把第一章写进简历了。

下一节是第一章的习题,25 道,做完再进第二章。