跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
Hugging Face · 每日论文· 媒体 / 作者来源·精选

Hugging Face 每日论文:Selection Is Not Learning:自进化语言模型如何选择继承的模型

原文标题

Selection Is Not Learning: Choosing Model Futures

AI 导读

论文指出 R-Zero、Agent0、Skill Self-Play 等自进化循环存在“选择到更新”的缺口:看起来可学的任务未必产生有用更新,但循环仍继承全部更新。作者提出 HeirCommit,冻结更新后模型并用新评测题决定是否继承,相比随机继承把有害更新占比降低 68-83%;EvoHeir 则分离参数继承与经验继承,在四个骨干模型上数学与通用推理平均表现最佳,数学平均较最强基线 Agent0 提升 5.3%。

来源:Hugging Face · 每日论文 · arxiv.org

导读与选稿说明

为自进化语言模型提供可复用的继承筛选机制,解决任务可学但更新无益的瓶颈,降低有害更新比例并保留有效经验,可被训练自进化模型的研究与工程团队直接采用。

导读由模型辅助整理,非独立核验。完整信息见原文。