跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
Hugging Face · 每日论文· 媒体 / 作者来源·精选

基于能力的逻辑推理评测:GPT与Qwen六款模型在排序任务上未通过能力一致性检验

原文标题

Competence-Based Evaluation of Logical Reasoning in Large Language Models

AI 导读

论文提出能力基评测(CBE)范式,用参数化生成器在固定所需能力的前提下扩展复杂度,并用答案保持不变的表述变体检验模型是否可靠应用同一能力。在小学排序任务上对六款GPT和Qwen模型测试:有界复杂度范围内表现尚好,但强模型在测试问题族上均未通过能力条件;思维链和GRPO能扩展强表现但未解决全部失败,监督LoRA在留出集上迁移很少。

来源:Hugging Face · 每日论文 · arxiv.org

导读与选稿说明

提出可随模型扩展的能力一致性评测协议,在六款GPT/Qwen排序任务上给出诊断结果,并报告CoT、GRPO与LoRA的对比效果。

导读由模型辅助整理,非独立核验。完整信息见原文。