Hugging Face · 每日论文· 媒体 / 作者来源·精选
TraceForge：用学生模型自己的风格重建教师推理链
原文标题
TraceForge: Distilling with Your Own Thinking
AI 导读
前沿模型 API 不再返回详细推理过程，TraceForge 改为以教师模型的答案和上下文为输入，用生成器按学生模型家族的风格重建推理链，再由判别器筛选。两阶段先监督后对抗训练；独立评审给出的真实性均分为 0.68，真实推理链为 0.66，判别器从四个候选中选出的达 0.82。在相同 5000 题和教师答案下，HumanEval+ 提升 3.7 分、MBPP+ 提升 7.1 分。
来源：Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
提出不依赖被限制的教师推理输出、按学生家族风格重建训练推理链的方法，并给出在固定题目和教师答案下的编码基准提升数字，适用于推理蒸馏训练场景。
导读由模型辅助整理，非独立核验。完整信息见原文。