事件记录历史事件
Inherited, Not Invented: Tracing the Provenance of Wait in R
1 篇报道1 个报道来源4 天前更新
先了解这件事
报道摘要
研究指出,强化学习(RL)并非教会推理模型使用“等待”一词的关键,因为即使没有这个词,大型RL的准确率提升也并不需要它。研究通过分析开放模型的训练历史,发现“等待”一词并非由RL创造,而是来自训练数据。研究还发现,在缺乏这个词的基座上,RL可以将MATH-500准确率大幅提升,而“等待”一词仍然很少出现。
摘自 Hugging Face · 每日论文
报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- Hugging Face · 每日论文精选推理模型中“等待”的来源:追踪其传承而非发明
研究指出,强化学习(RL)并非教会推理模型使用“等待”一词的关键,因为即使没有这个词,大型RL的准确率提升也并不需要它。研究通过分析开放模型的训练历史,发现“等待”一词并非由RL创造,而是来自训练数据。研究还发现,在缺乏这个词的基座上,RL可以将MATH-500准确率大幅提升,而“等待”一词仍然很少出现。