Hugging Face · 每日论文· 媒体 / 作者来源·精选
通过因果鲁棒性度量大语言模型的机制不确定性
原文标题
Measuring Mechanistic Uncertainty in Large Language Models via Causal Robustness
AI 导读
论文提出机制不确定性概念，用支撑模型回答的内部机制稳定性刻画不确定性，并定义因果鲁棒性边距——使模型输出偏离所需的最小内部干预，通过Jlens概念转向向量实现。在三个开源模型和五个问答数据集上，错误与不确定回答的边距更小，且该边距与基于输出的不确定性方法互补；受控知识注入实验中，正确习得的事实训练后边距增大。
来源：Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
提出因果鲁棒性边距这一机制层面的不确定性信号，在三个开源模型、五个问答数据集及受控知识注入实验中验证其与输出不确定性方法互补。
导读由模型辅助整理，非独立核验。完整信息见原文。