Hugging Face · 每日论文· 媒体 / 作者来源·精选
Hugging Face 每日论文:Selection Is Not Learning:自进化语言模型如何选择继承的模型
原文标题
Selection Is Not Learning: Choosing Model Futures
AI 导读
论文指出 R-Zero、Agent0、Skill Self-Play 等自进化循环存在“选择到更新”的缺口:看起来可学的任务未必产生有用更新,但循环仍继承全部更新。作者提出 HeirCommit,冻结更新后模型并用新评测题决定是否继承,相比随机继承把有害更新占比降低 68-83%;EvoHeir 则分离参数继承与经验继承,在四个骨干模型上数学与通用推理平均表现最佳,数学平均较最强基线 Agent0 提升 5.3%。
来源:Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
为自进化语言模型提供可复用的继承筛选机制,解决任务可学但更新无益的瓶颈,降低有害更新比例并保留有效经验,可被训练自进化模型的研究与工程团队直接采用。
导读由模型辅助整理,非独立核验。完整信息见原文。