Agent 全栈实战

1.11 第一章习题#

25 道题,三种题型。

建议先自己做,再对答案。做错的题,回到对应小节重看一遍。

难度标注:易=概念记忆,中=需要理解,难=需要推理或结合代码。


一、单选题(15 题)#

1.(易)大语言模型生成长文本的基本方式是:

A. 一次性生成整段
B. 逐 Token 预测,再把结果拼回上下文
C. 从数据库检索整段文本
D. 先写提纲再填充

答案:B

解析:自回归生成。每次预测一个 Token,追加到上下文,再预测下一个,直到 <EOS> 或达到上限。


2.(易)关于 Token,下列说法正确的是:

A. 一个 Token 等于一个汉字
B. 一个 Token 等于一个英文单词
C. Token 是 Tokenizer 按词表和规则切出的最小单位
D. Token 数量与模型无关

答案:C

解析:Token 既不是字也不是词。不同模型、不同版本的词表和切分规则不同,同一句话的 Token 数可能不同。


3.(中)“2000”在某些 Tokenizer 里被切成 200 和 0,主要原因是:

A. 模型不认识 2000
B. Tokenizer 对连续数字有“最多三位一组”的预设规则
C. 数字必须拆成单字符
D. 2000 超出词表范围

答案:B

解析:这是 Tokenizer 的预设分组规则,不是模型“不认识”。先按规则分组,再查词表。


4.(易)Context Window 指的是:

A. 聊天窗口的显示宽度
B. 模型一次能处理的 Token 总数上限
C. 模型训练数据的规模
D. 单次请求的超时时间

答案:B

解析:窗口包含输入 Token、已生成的输出 Token,以及即将生成的内容。它既是容量上限,也是计费与延迟的依据。


5.(中)接口返回 finish_reason: "length",说明:

A. 模型主动结束了回答
B. 触发了内容安全过滤
C. 输出被 max_tokens 截断
D. 请求参数错误

答案:C

解析:length 表示达到输出上限被截断,回答可能不完整。stop 才是正常结束。


6.(易)下列哪一项不是常见的 Message 角色?

A. system
B. user
C. assistant
D. context

答案:D

解析:常见角色是 system、user、assistant,工具调用场景还有 tool。没有 context 这个角色。


7.(中)把 temperature 调低,主要影响的是:

A. 模型的知识量
B. 采样分布的形状,使高概率候选更容易被选中
C. 上下文窗口的大小
D. Tokenizer 的切分方式

答案:B

解析:温度作用于 Softmax 前的 logit,改变分布的“尖锐程度”。它不改知识边界,所以不能消除幻觉。


8.(中)top_p = 0.9 的含义是:

A. 只保留概率最高的 9 个 Token
B. 从高到低累计概率达到 0.9 的候选集合内采样
C. 90% 的请求会被限流
D. 输出长度限制为 90 个 Token

答案:B

解析:top_p 是核采样,按累计概率截断候选集,不是固定个数。top_k 才是固定个数。


9.(中)幻觉最根本的来源是:

A. 模型参数太少
B. 模型的目标是预测下一个 Token,而不是核实事实
C. 温度设置太高
D. 用户提问方式不对

答案:B

解析:温度、提示词都会影响幻觉的表现,但根子是机制:模型没有独立的事实核查环节。


10.(中)在任务路由中,优先级最高的一类通常是:

A. 最强的推理模型
B. 多模态模型
C. 确定性代码
D. 最便宜的文本模型

答案:C

解析:能用代码算的,不调模型。代码最快、最便宜、最可测。顺序是“代码 > 多模态 > 推理 > 普通文本”。


11.(易)接口返回 429,通常表示:

A. 模型不存在
B. 请求被限流
C. 鉴权失败
D. 服务端内部错误

答案:B

解析:429 是 Too Many Requests。503 可能是模型不可用或服务过载,401 是鉴权失败。


12.(中)Attention 计算中,Query 的作用是:

A. 存储前文内容
B. 表示当前 Token“在找什么”
C. 表示前文的索引标签
D. 控制生成长度

答案:B

解析:Q 是查询,K 是被查询的索引,V 是实际内容。Q 与 K 点积得到相关性。


13.(中)Attention 里把点积除以 sqrt(d),主要是为了:

A. 加快计算速度
B. 防止点积随维度增大而过冲,导致 Softmax 过于尖锐
C. 让权重之和等于 1
D. 去除位置信息

答案:B

解析:维度越高,点积方差越大,Softmax 容易饱和成一个位置接近 1、其余接近 0。缩放能缓解这个问题。


14.(中)因果掩码(causal mask)的作用是:

A. 防止模型看到未来的 Token
B. 加快注意力计算
C. 去掉停用词
D. 把 Token 转成向量

答案:A

解析:自回归生成时,第 n 个 Token 只能看前 n 个。掩码保证训练和推理一致,不会“偷看答案”。


15.(难)上下文从 8K 增加到 128K,Attention 计算量大致变为原来的:

A. 2 倍
B. 16 倍
C. 256 倍
D. 不变

答案:C

解析:Attention 复杂度约 O(n²)。长度变为 16 倍,计算量约 16² = 256 倍。实际实现会用稀疏、分块等优化,但量级关系成立。


二、判断题(5 题)#

16.(易)一个汉字一定等于一个 Token。

答案:错

解析:中文可能被切成一个字、半个词,甚至多个字组成的词。Emoji 可能占很多 Token。


17.(中)同一会话里,模型天然记得前面说过的话,服务端不需要重发历史。

答案:错

解析:模型本身无状态。所谓“记得”,是客户端或服务端把历史消息重新组织进 messages 再发一次。网页端看起来“只发了新消息”,是因为服务端按会话 ID 帮你补了历史。


18.(中)把 temperature 设为 0,就不会产生幻觉。

答案:错

解析:温度只改变采样倾向。最高概率的候选如果本身错误,温度再低仍然会选它。


19.(难)上下文窗口越大,越应该把所有资料都塞进去。

答案:错

解析:窗口有成本,长上下文还会带来“中间信息被忽略”和延迟上升的问题。正确做法是 Context Budget:选对信息,留出输出空间。


20.(难)Attention 权重高,就说明该 Token 对最终结果因果贡献大。

答案:错

解析:权重只是模型内部的一个中间量,多个 Head 会相互叠加,且非线性层会改变贡献。注意力图不能直接当作解释。


三、简答题(5 题)#

21.(中)为什么说“模型只根据本次能看到的上下文生成”?请举一个例子说明。

参考答案:

模型的每次生成,输入只有当前 messages(或等价上下文)。它不会读取上一次请求的记忆,也不会访问你的数据库。

例子:先告诉模型“我叫张三,做前端”,同一会话里问“我适合学什么”,它会结合“前端”回答;新开一个会话只问同一句,它不知道你是谁,回答会变成通用建议。

所以“记住”不是模型的能力,是调用方把历史重新放进上下文的结果。


22.(难)简述 Context Budget 的分配思路,并说明为什么不能“能塞多少塞多少”。

参考答案:

先扣掉输出预留,再扣掉系统指令、当前问题、工具结果等必选项,剩下的才是历史与 RAG 的预算。

历史按“完整轮次”从最近往前装,装不下的旧轮次压缩成摘要或丢弃。

不能全塞的原因有三:

  1. 成本随输入 Token 线性上升;
  2. 首字延迟随输入变长明显增加;
  3. 过长上下文里,中间信息容易被忽略,反而降低准确率。

预算的目标不是“放最多”,是“放最相关,并给输出留空间”。


23.(难)为什么“代码定结论、模型做表达”能降低业务错误?

参考答案:

业务结论依赖精确比较、状态判断、金额计算,这些是代码的强项:确定、可测试、可审计。

模型擅长语言组织,但不擅长精确计算,且可能编造阈值、讨好用户。

把两件事拆开后:

  • 代码产出 authoritativeResult,作为唯一事实来源;
  • 模型只接收该结果并改写话术,system 明确禁止修改金额与结论。

即使模型改写出错,下游仍以结构化结果为准,错误不会写进业务数据。


24.(中)设计一个任务路由,需要考虑哪些失败情况?

参考答案:

至少四类:

  1. 模型不存在或下线(如 503 model_not_found);
  2. 限流(429),需要退避重试或切换备用模型;
  3. 超时与网络错误,需要降级到模板或缓存;
  4. 路由判断错误(关键词没命中、分类器误判),需要日志与人工复核样本。

路由不是“选一个模型名”,是一套带 fallback、重试、监控的执行策略。


25.(难)用 Q、K、V 解释:“人工审核”这个 Token 如何吸收前面的金额信息?

参考答案:

“人工审核”生成 Query,表示它在找“金额、阈值、比较关系”这类信息。

前文每个 Token 生成 Key 和 Value。退款金额、3000、超过、2000 的 Key 与 Query 点积得分较高。

Softmax 把这些得分转成权重,例如 超过 10.61%、退款金额 8.48%、3000 8.48%、2000 8.48%。

最后按权重对所有 Value 加权求和,得到新的表示。这个新表示已经混合了金额与比较关系,不再只是“人工审核”四个字本身的语义。


做完之后#

如果 25 题里错了 5 题以上,建议按错题对应的小节重看,并把 demo 跑一遍。

第二章开始进入 RAG:怎么让模型“看着资料回答”,以及为什么“检索对了”比“模型强”更重要。