Agent 全栈实战

1.7 幻觉与 Temperature:它为什么一本正经地错#

前面几节,咱们一直在讲“模型怎么工作”。

这一节讲它怎么坏。

先看一个很常见的场景。

客户问:

我买了 3000 元的课程,现在想退款,能退吗?

模型回答:

可以的,我们支持 7 天无理由退款,您的订单符合条件,将原路退回。

听起来很专业,对不对?

但你的公司规则是:超过 2000 元的退款,必须人工审核。

模型不知道这条规则,它用“常见的电商退款政策”补了一个答案。

这就是幻觉:它不是不知道,它是不知道却说得跟真的一样。

更麻烦的是,它不只编事实,还会替你做决定。

实验 A:让代码下结论,模型只负责说话#

代码在:

text
Node/第一章/07-model-boundary-demo/reliable-refund-agent.js

它把一件事拆成两半:

  • 查订单、比阈值、下结论,用代码;
  • 把结论改写成客户能看懂的话,用模型。

先看“数据库”(reliable-refund-agent.js:5-16):

js
const orders = new Map([
	['A1024', {
		orderId: 'A1024',
		refundAmount: 3000,
		status: 'refund_requested'
	}]
])

const MANUAL_REVIEW_THRESHOLD = 2000

查订单(reliable-refund-agent.js:20-25):

js
function queryOrder(orderId) {
	return orders.get(orderId)
}

下结论(reliable-refund-agent.js:27-43):

js
function evaluateRefund(order) {
	const needsManualReview = order.refundAmount > MANUAL_REVIEW_THRESHOLD

	return {
		orderId: order.orderId,
		refundAmount: order.refundAmount,
		threshold: MANUAL_REVIEW_THRESHOLD,
		needsManualReview,
		conclusion: needsManualReview ? '需要人工审核' : '可以自动退款'
	}
}

一行比较,就是全部业务规则。

为什么不用模型判断?

因为模型会:

  • 算错(3000 和 2000 比大小,它不一定可靠);
  • 编阈值(把 2000 说成 2500);
  • 讨好用户(“您是优质客户,这次给您特批”)。

能用 > 解决的,绝不用自然语言。

然后,模型只做改写(reliable-refund-agent.js:45-80):

js
const response = await fetch('https://api.deepseek.com/chat/completions', {
	method: 'POST',
	headers: {
		Authorization: `Bearer ${process.env.DEEPSEEK_API_KEY}`,
		'Content-Type': 'application/json'
	},
	body: JSON.stringify({
		model,
		messages: [
			{ role: 'system', content: '你是客服,只能改写,不得修改金额、阈值和结论。' },
			{ role: 'user', content: JSON.stringify(result) }
		],
		temperature: 0.2,
		max_tokens: 120
	})
})

system 里三条硬约束:

不得修改订单编号、金额、阈值和审核结论,也不得声称已经执行退款。

跑出来的结果:

json
{
  "authoritativeResult": {
    "orderId": "A1024",
    "refundAmount": 3000,
    "threshold": 2000,
    "needsManualReview": true,
    "conclusion": "需要人工审核"
  },
  "customerMessage": "订单A1024申请退款3000元,超过阈值2000元,需人工审核。"
}

两个字段是分开的:

  • authoritativeResult 是代码算出来的“权威结论”;
  • customerMessage 是模型改写的话。

模型没有参与判断。

这就是“模型在边界内工作”:边界由代码画,模型在框里发挥。

实验 B:温度调低,是不是就不编了#

很多人以为幻觉是“随机性太大”,把 temperature 调到 0 就好了。

真是这样吗?

先看 temperature 到底改了什么。

上一节咱们讲 Softmax:

text
概率 = exp(logit) / sum(exp(logit))

带温度的形式是:

text
概率 = exp(logit / T) / sum(exp(logit / T))
  • T 小(比如 0.2):分布更尖,高概率的候选更容易被选中;
  • T 大(比如 1.5):分布更平,低概率的候选也有机会;
  • T = 0:理论上退化成贪心,永远选最高概率。

所以温度影响的是“选哪个”,不是“选得对不对”。

如果最高概率的候选本身就是错的,温度再低,它还是选那个错的。

代码在:

text
Node/第一章/07-model-boundary-demo/temperature-demo.js

它用 temperature: 0.1 和 temperature: 1.5 各调 3 次,让模型写欢迎语。

我这边跑出来的结果:两组几乎一模一样。

0.1 的三条几乎相同,1.5 的三条也几乎相同。

这不是代码写错了,而是一个真实的教训:

参数效果依赖模型和供应商。 课本上说“高温度更多样”,但你用的模型可能对温度不敏感,或者在短文本上体现不出来。

别把课本结论当实测结论。

幻觉从哪来#

把原因拆开,大概四类。

第一类:它不知道,但必须接话。

模型的训练目标是“预测下一个 Token”,不是“判断自己知不知道”。

遇到没见过的内容,它不会自动停下,而是接着最像的模式往下编。

第二类:训练数据过期或有错。

模型的知识停在训练截止日期。你问它“我们公司最新的退款政策”,它只能拿旧知识或通用常识凑。

第三类:上下文里没有,但它以为有。

你只给了订单号,没给规则。它不会说“缺少规则”,而是用“常见规则”补上。

第四类:它在讨好你。

人类对话里,顺着对方说往往更“安全”。模型学多了,就容易顺着你的预设编。

怎么降低幻觉#

五个手段,按有效性排:

第一,给它资料。

这就是 RAG。把公司制度、产品文档、订单数据检索出来,放进上下文,让它“照着念”,而不是“凭记忆编”。

第二,明确约束。

在 system 里写清楚:

如果资料里没有答案,直接回答“根据现有资料无法确认”,不要推测。

这句话不是装饰,是真能改变行为的。

第三,结构化输出。

让它输出 JSON,字段固定,比自由文本好校验。字段缺失、类型不对,代码能拦住。

第四,降低随机性。

temperature 调低、top_p 调低,能减少“花样”,但不能消除“错误”。

第五,外部校验。

金额、日期、订单号这类关键字段,用代码再校验一遍。模型说的话,不能直接进数据库。

一个真实的崩溃#

reliable-refund-agent.js 有个坑:它没有 Key 检查。

没有 DEEPSEEK_API_KEY 时,请求返回 401,data.choices 是 undefined,直接崩:

text
TypeError: Cannot read properties of undefined (reading '0')
    at generateCustomerMessage (.../reliable-refund-agent.js:77:21)

对比 05、06 节:那两节都有 if (!apiKey) 兜底,这节没有。

同一门课里,错误处理的完整度并不一致。

这也是读源码要养成的习惯:先看它怎么处理失败,再看它怎么处理成功。

修法很简单:请求前判断 Key,响应后判断 data.choices?.[0],失败时降级成模板话术。

几个容易误解的点#

PS 1:温度 0 不等于确定性。

不少供应商在 temperature: 0 时仍有微小随机性,或者内部做了采样。要完全可复现,得看厂商文档。

PS 2:幻觉不是“模型坏了”。

它是“预测下一个 Token”这个机制的副作用。模型没有“事实核查”模块。

PS 3:RAG 也不能消灭幻觉。

检索到错的资料,它会照着错的念。所以 RAG 要配引用、要配拒答、要配评估——这是第二章的重点。

总结#

这一节咱们讲清了两件事:

  • 幻觉的根子是“它只负责预测,不负责核实”;
  • 温度只改“选的倾向”,不改“对不对”。

工程上的对策,一句话:

结论用代码算,表达才交给模型。

下一节,咱们把“用哪个模型”这件事也拆开:不是所有任务都值得上最贵的模型。