1.7 幻觉与 Temperature:它为什么一本正经地错#
前面几节,咱们一直在讲“模型怎么工作”。
这一节讲它怎么坏。
先看一个很常见的场景。
客户问:
我买了 3000 元的课程,现在想退款,能退吗?
模型回答:
可以的,我们支持 7 天无理由退款,您的订单符合条件,将原路退回。
听起来很专业,对不对?
但你的公司规则是:超过 2000 元的退款,必须人工审核。
模型不知道这条规则,它用“常见的电商退款政策”补了一个答案。
这就是幻觉:它不是不知道,它是不知道却说得跟真的一样。
更麻烦的是,它不只编事实,还会替你做决定。
实验 A:让代码下结论,模型只负责说话#
代码在:
Node/第一章/07-model-boundary-demo/reliable-refund-agent.js它把一件事拆成两半:
- 查订单、比阈值、下结论,用代码;
- 把结论改写成客户能看懂的话,用模型。
先看“数据库”(reliable-refund-agent.js:5-16):
const orders = new Map([
['A1024', {
orderId: 'A1024',
refundAmount: 3000,
status: 'refund_requested'
}]
])
const MANUAL_REVIEW_THRESHOLD = 2000查订单(reliable-refund-agent.js:20-25):
function queryOrder(orderId) {
return orders.get(orderId)
}下结论(reliable-refund-agent.js:27-43):
function evaluateRefund(order) {
const needsManualReview = order.refundAmount > MANUAL_REVIEW_THRESHOLD
return {
orderId: order.orderId,
refundAmount: order.refundAmount,
threshold: MANUAL_REVIEW_THRESHOLD,
needsManualReview,
conclusion: needsManualReview ? '需要人工审核' : '可以自动退款'
}
}一行比较,就是全部业务规则。
为什么不用模型判断?
因为模型会:
- 算错(3000 和 2000 比大小,它不一定可靠);
- 编阈值(把 2000 说成 2500);
- 讨好用户(“您是优质客户,这次给您特批”)。
能用 > 解决的,绝不用自然语言。
然后,模型只做改写(reliable-refund-agent.js:45-80):
const response = await fetch('https://api.deepseek.com/chat/completions', {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.DEEPSEEK_API_KEY}`,
'Content-Type': 'application/json'
},
body: JSON.stringify({
model,
messages: [
{ role: 'system', content: '你是客服,只能改写,不得修改金额、阈值和结论。' },
{ role: 'user', content: JSON.stringify(result) }
],
temperature: 0.2,
max_tokens: 120
})
})system 里三条硬约束:
不得修改订单编号、金额、阈值和审核结论,也不得声称已经执行退款。
跑出来的结果:
{
"authoritativeResult": {
"orderId": "A1024",
"refundAmount": 3000,
"threshold": 2000,
"needsManualReview": true,
"conclusion": "需要人工审核"
},
"customerMessage": "订单A1024申请退款3000元,超过阈值2000元,需人工审核。"
}两个字段是分开的:
authoritativeResult是代码算出来的“权威结论”;customerMessage是模型改写的话。
模型没有参与判断。
这就是“模型在边界内工作”:边界由代码画,模型在框里发挥。
实验 B:温度调低,是不是就不编了#
很多人以为幻觉是“随机性太大”,把 temperature 调到 0 就好了。
真是这样吗?
先看 temperature 到底改了什么。
上一节咱们讲 Softmax:
概率 = exp(logit) / sum(exp(logit))带温度的形式是:
概率 = exp(logit / T) / sum(exp(logit / T))T小(比如 0.2):分布更尖,高概率的候选更容易被选中;T大(比如 1.5):分布更平,低概率的候选也有机会;T = 0:理论上退化成贪心,永远选最高概率。
所以温度影响的是“选哪个”,不是“选得对不对”。
如果最高概率的候选本身就是错的,温度再低,它还是选那个错的。
代码在:
Node/第一章/07-model-boundary-demo/temperature-demo.js它用 temperature: 0.1 和 temperature: 1.5 各调 3 次,让模型写欢迎语。
我这边跑出来的结果:两组几乎一模一样。
0.1 的三条几乎相同,1.5 的三条也几乎相同。
这不是代码写错了,而是一个真实的教训:
参数效果依赖模型和供应商。 课本上说“高温度更多样”,但你用的模型可能对温度不敏感,或者在短文本上体现不出来。
别把课本结论当实测结论。
幻觉从哪来#
把原因拆开,大概四类。
第一类:它不知道,但必须接话。
模型的训练目标是“预测下一个 Token”,不是“判断自己知不知道”。
遇到没见过的内容,它不会自动停下,而是接着最像的模式往下编。
第二类:训练数据过期或有错。
模型的知识停在训练截止日期。你问它“我们公司最新的退款政策”,它只能拿旧知识或通用常识凑。
第三类:上下文里没有,但它以为有。
你只给了订单号,没给规则。它不会说“缺少规则”,而是用“常见规则”补上。
第四类:它在讨好你。
人类对话里,顺着对方说往往更“安全”。模型学多了,就容易顺着你的预设编。
怎么降低幻觉#
五个手段,按有效性排:
第一,给它资料。
这就是 RAG。把公司制度、产品文档、订单数据检索出来,放进上下文,让它“照着念”,而不是“凭记忆编”。
第二,明确约束。
在 system 里写清楚:
如果资料里没有答案,直接回答“根据现有资料无法确认”,不要推测。
这句话不是装饰,是真能改变行为的。
第三,结构化输出。
让它输出 JSON,字段固定,比自由文本好校验。字段缺失、类型不对,代码能拦住。
第四,降低随机性。
temperature 调低、top_p 调低,能减少“花样”,但不能消除“错误”。
第五,外部校验。
金额、日期、订单号这类关键字段,用代码再校验一遍。模型说的话,不能直接进数据库。
一个真实的崩溃#
reliable-refund-agent.js 有个坑:它没有 Key 检查。
没有 DEEPSEEK_API_KEY 时,请求返回 401,data.choices 是 undefined,直接崩:
TypeError: Cannot read properties of undefined (reading '0')
at generateCustomerMessage (.../reliable-refund-agent.js:77:21)对比 05、06 节:那两节都有 if (!apiKey) 兜底,这节没有。
同一门课里,错误处理的完整度并不一致。
这也是读源码要养成的习惯:先看它怎么处理失败,再看它怎么处理成功。
修法很简单:请求前判断 Key,响应后判断 data.choices?.[0],失败时降级成模板话术。
几个容易误解的点#
PS 1:温度 0 不等于确定性。
不少供应商在 temperature: 0 时仍有微小随机性,或者内部做了采样。要完全可复现,得看厂商文档。
PS 2:幻觉不是“模型坏了”。
它是“预测下一个 Token”这个机制的副作用。模型没有“事实核查”模块。
PS 3:RAG 也不能消灭幻觉。
检索到错的资料,它会照着错的念。所以 RAG 要配引用、要配拒答、要配评估——这是第二章的重点。
总结#
这一节咱们讲清了两件事:
- 幻觉的根子是“它只负责预测,不负责核实”;
- 温度只改“选的倾向”,不改“对不对”。
工程上的对策,一句话:
结论用代码算,表达才交给模型。
下一节,咱们把“用哪个模型”这件事也拆开:不是所有任务都值得上最贵的模型。