temperature 旋钮演示
大模型每吐一个字,都是一次概率「抽签」。temperature 控制这副牌有多乱,top-k / top-p 决定哪些字有资格上桌。三个旋钮随便拧,看概率分布实时变,再亲手抽一签——同样一组概率,每次抽出来都不一样。
纯前端模拟,算的是真实的
softmax(logits/T)
数学,零 API、零延迟。
让 AI 续写:「今天天气真」—— 下面是模型给 10 个候选字算出的概率。拧旋钮,看分布怎么变。
概率分布
基础(T)最终可抽已砍
好
41.5%
热
18.7%
棒
11.3%
差
8.4%
冷
5.6%
闷
4.2%
怪
3.4%
的
2.8%
是
2.3%
不
1.9%
temperature1.00
小→分布陡(只认第一名),大→摊平(小字也有机会)
top-k10
只在前 10 个里抽(全保留)
top-p1.00
只在累积概率达 1.00 的集合里抽(全保留)