Hugging Face · 每日论文· 媒体 / 作者来源·精选
超越基准:小型开源模型能否完成实际编程工作?
原文标题
Beyond Benchmarks: Can Small Open-Weight Models Get Real Coding Work Done?
AI 导读
研究者在2026年7月至10月间对多个开源模型进行编码工作测试,发现名义上兼容的模型在工具调用格式、回合控制、上下文行为等方面存在差异。通过4,165次编码代理网关回合和623个调试任务,研究显示直接编码在45项任务中完成45/45,而量化Qwen3-Coder 30B-A3B worker完成12/15和14/15,Nemotron Cascade 2 worker完成12/45。直接编码的API等效成本更低,且缓存重用可将首令牌时间从69.4秒降至2.8秒。
来源:Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
提供了开源模型在实际编程工作中的性能对比和成本分析,证明了直接编码优于代理模式,并量化了缓存重用的性能提升。
导读由模型辅助整理,非独立核验。完整信息见原文。