LLM 自报置信度分数不可靠

一篇在 Hacker News 获高分的文章提出，用 LLM 生成置信度分数是个坏主意：LLM 逐 token 生成文本，被问“有多大把握”时输出的 0.85 只是对话的合理续写，并非对任何事物的测量。该数字既不反映模型掌握的信息量，也从未针对“分数是否匹配实际正确率”做过校准，因此同一问题重问或换个措辞，分数就会变化。 文章称，可靠的置信度需要基于信息量并对照真实结果检验，而 LLM 两者都不具备。上述判断来自该文作者，并非经独立验证的结论。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。