跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT

开源生态

全部主题
主题资料

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

77 篇文章

最新文章

第 41–60 条 · 共 77 条
10月20日周二
  1. Latent Space

    AINews(2026年10月16日-19日):DeepSeek V4.1 Flash 1017、MiniMax M3.1 Flash、Mercury 3等模型发布,Anthropic推出公共福利基金

    AI 导读DeepSeek V4.1 Flash 1017成为开源权重价值领导者,在多个基准测试中表现优异;MiniMax M3.1 Flash以1/3成本和3倍速度发布;Mercury 3被称作迄今为止最强大的扩散LLM;Anthropic宣布将约20%股权投入公共福利基金;美国国土安全部要求联邦机构移除DeepSeek产品;Google开源Harness²框架实现智能体自我改进;Claude Opus 5.5在密码学和量子物理领域取得突破。

    AI 选稿理由包含多个模型的具体性能数据、基准测试结果和实际应用案例,以及Anthropic公共福利基金等重大行业动态。

  2. Hugging Face · 每日论文

    构建AI研究团队自主发现线性注意力架构

    AI 导读研究团队提出由不同学科背景的AI研究员组成的协作团队,通过保持独立研究历史、共享实验证据和自适应分配研究机会,在有限实验预算下持续发现新架构。该团队在1.3B规模线性注意力架构搜索中,于语言建模、常识推理和检索任务上超越GDN2模型。移除任何组织组件都会显著降低发现效果。

    AI 选稿理由提出多学科AI研究团队协作机制,在有限预算下实现持续科学发现,实验证明不同背景、独立历史和自适应分配对突破局部最优至关重要。

  3. Hugging Face · 每日论文

    分层稀疏注意力 SSA:极端稀疏下缩小与稠密注意力的差距

    AI 导读研究提出分层稀疏注意力 SSA,将确定性检索与分数引导采样结合,对残差 token 按其计入概率校正,从而找回检索集之外的注意力质量,统一涵盖 top-k、top-p 与混合采样。在 RULER、LongBench、LOFT、AIME 及 3B–27B 共五个模型上,SSA 在同等稀疏度下一致优于基线;在 RULER-HARD、Ministral-3-8B、50 倍注意力稀疏下,32K 准确率从 81.8% 升至 84.2%,128K 从 63.8% 升至 69.3%,分别恢复稠密性能的 94% 与 85%。配合优化 CUDA 内核,1M 上下文解码较 FlashInfer 最高提速 2.96 倍,代码已开源。

    AI 选稿理由在多个长上下文基准和五个模型上验证了极端稀疏时缩小与稠密注意力差距的方法,并给出 1M 上下文解码最高 2.96 倍的实测加速,适合关注长上下文推理效率的读者。

  4. Hugging Face · 每日论文

    从强化学习论文到框架代码:七个开源训练框架中的包含与审查

    AI 导读研究者追踪了七个开源强化学习训练框架,分析了它们在2025年1月至2026年6月期间对1,598篇论文的包含情况。研究发现,在180天内被包含的论文数量稳定在5到7篇,这些论文通常具有30B参数以上的训练策略,并经常修改现有损失函数的系数、clip、mask或权重。

    AI 选稿理由该研究提供了关于开源强化学习训练框架中包含和审查过程的详细数据,有助于理解这些框架如何采用新的强化学习方法。

  5. Hugging Face · 每日论文

    缓存工程:让Agent直接管理KV缓存,降低成本27.7%

    AI 导读针对Agent长轨迹中KV缓存I/O与存储成为主要成本、裁剪历史又会触发重新预填充的问题,作者提出“缓存工程”:Agent可用drop把选定缓存排除出后续注意力,用repos调整保留键的位置编码,无需改动轨迹前缀。团队将历史依赖视为服务难题并联合设计AKV引擎,以无状态接口内部管理缓存复用、驱逐与恢复。工具响应滚动丢弃策略使平均基准分提高1.7分、平均成本降低27.7%;AKV输出吞吐最高1.2倍,P95请求延迟加速1.5倍;缓存策略递归自改进再降本7.1%。代码已开源。

    AI 选稿理由提出不改轨迹即可控制活跃KV缓存的drop/repos操作,并给出AKV引擎与量化收益,适用于长轨迹Agent推理服务优化。

  6. Hugging Face · 每日论文

    Specter:用量化多步投机卸载加速MoE推理

    AI 导读Specter将量化、投机解码与专家卸载结合,用轻量量化草稿模型在设备上保留高保真的专家激活模式,从而提前预测并调度后续专家数据的搬移。在单请求推理下,相比当前最优系统,TPOT平均快1.50倍、最高1.88倍,使显存受限的单卡MoE推理更可行。代码已开源。

    AI 选稿理由给出量化草稿模型驱动多步专家预取的具体系统设计,并在单请求场景测得TPOT平均1.50倍、最高1.88倍加速,适用于受PCIe卸载瓶颈限制的MoE推理。

  7. Hugging Face · 每日论文

    DiffResearch:使用扩散语言模型加速深度研究

    AI 导读研究团队提出DiffResearch框架,将扩散语言模型(dLLM)应用于深度研究的每个阶段。在100项Deep Research Bench任务中,扩散模型比自回归模型快约6倍,主要得益于规划和写作阶段的显著提速。团队还引入dFast模式,通过读取中间去噪状态提取子查询,实现1.99倍速度提升且不降低报告质量。基于更强扩散模型的系统在排行榜上超越多个商业系统。DiffResearch已以Apache-2.0许可证开源。

    AI 选稿理由扩散语言模型在深度研究框架中实现端到端速度提升6倍,dFast模式进一步加速分解过程,且报告质量保持不变,开源框架可促进研究应用。

  8. Hugging Face · 每日论文

    Agent S4让计算机使用Agent自行进化接口,OSWorld V2达21.3%新SOTA

    AI 导读论文提出Agent S4,让接口设计本身成为Agent能力:元智能体在无成功标签的合成任务轨迹上构建并修订接口仓库,再用种群式进化按验证任务表现筛选。在OSWorld V2上,搭配Qwen3.8-27B的Agent S4取得21.3%二元得分,是同模型固定接口的3.8倍,超过GPT-5.5(13.0%)和Claude Opus 4.8(20.6%),成本约为后两者的4.3%和1.5%;ScienceBoard成功率从41.4%升至58.6%。代码已开源。

    AI 选稿理由提出从任务经验自动进化Agent接口的方法,在OSWorld V2和ScienceBoard上以约1/4至1/15成本超过GPT-5.5与Claude Opus 4.8,为计算机使用Agent提供接口自进化的开源方案。

  9. Hugging Face Blog

    AnyLanguageModel 1.0:苹果平台本地模型运行一周年

    AI 导读Hugging Face发布AnyLanguageModel 1.0,作为苹果Foundation Models框架的替代方案,支持本地和云端模型切换。新增工具调用、引导生成、图像支持等功能,兼容OpenAI、Anthropic、Google等API,并提供swift-huggingface和swift-xet加速下载。本地模型支持Gemma、Qwen3.8等,适配iPhone和Mac设备。

    AI 选稿理由解决了苹果开发者本地模型部署和多云提供商兼容的瓶颈,提供统一API降低开发复杂度,支持从手机到服务器的跨平台部署。

  10. Hugging Face Blog

    PyTorch 2.15 为 Mac 带来 MPS 性能提升,FP8 支持与 MoE 模型解码加速

    AI 导读PyTorch 2.15 为 Apple Silicon Mac 带来多项 MPS 性能优化:FP8 数据类型支持,MoE 模型解码速度提升 5-6.5 倍,线性层和 softmax 运算加速,视频解码内存占用从 270GB 降至 8GB,新增复杂线性代数运算支持。同时提供更精确的 MPS 可用性检查和 Python 流控制功能。

    AI 选稿理由解决了 Mac 平面运行大型模型的性能瓶颈,使 MoE 模型解码速度提升 5-6.5 倍,视频生成内存占用降低 97%,为 Apple Silicon 用户提供了更高效的 AI 模型训练和推理能力。

  11. Hugging Face Blog

    Hugging Face 推出 TorchTPU:TPU 现已成为 PyTorch 原生支持设备

    AI 导读Hugging Face 发布 TorchTPU,将 TPU 作为 PyTorch 的原生后端,使开发者无需修改代码即可在 TPU 上运行 Transformers、Diffusers 等库。用户只需将模型发送到 'tpu' 设备即可完成部署,支持分布式训练和 torch.compile 优化。TorchTPU 还提供了 Pallas 内核和 Kernels Hub 的 TPU 内核支持,显著提升模型推理速度。

    AI 选稿理由TorchTPU 解决了 PyTorch 用户在 TPU 上部署的复杂性问题,使 TPU 成为与 GPU、CPU 平等的原生设备,大幅简化了 Hugging Face 生态在 TPU 上的使用门槛。

  12. Hugging Face · 每日论文

    Matrix-Game 4.0:用视频模型实时生成可玩游戏世界,RTX5090上480p 60FPS

    AI 导读Matrix-Game 4.0将游戏执行与画面生成分离:轻量游戏引擎维护世界状态并执行交互规则,多模态编码Agent把玩家想法转为游戏代码和动态场景描述,基于自回归视频模型的渲染器再把低多边形代理画面转为高保真视觉。单张RTX5090实现480p、60FPS,按键到显示延迟112ms;单步生成稳态83FPS,峰值显存18.2GiB,RTX5080和RTX5070Ti上分别为67FPS和58FPS。代码、模型权重和低多边形游戏资产已开源。

    AI 选稿理由给出可玩游戏世界的执行—渲染分离架构,并在单卡上实测延迟、帧率与显存,同时开源代码、权重和资产,为实时视频生成与游戏交互结合提供可复现基线。

10月19日周一
  1. Hugging Face · 每日论文

    BSD:用自蒸馏统一跨词表与闭源API教师

    AI 导读研究提出 Bridged Self-Distillation(BSD)框架:外部教师只提供离线推理轨迹,作为特权上下文;学生模型自身在无上下文条件下生成 rollout,再由同一学生的上下文条件副本充当自教师,在学生自身词表空间为这些 rollout 打分,并结合验证器结果信号调整失败轨迹的更新。由于教师只需输出文本,该方法统一适用于共享词表、跨词表和闭源 API 教师场景,在各类场景中均优于基线和专用方法,代码已开源。

    AI 选稿理由提出一种只依赖教师文本输出的统一在线蒸馏框架,覆盖跨词表和闭源API教师等此前需分别处理的情形,并公开代码,适用于研究蒸馏方法者参考。

  2. Hugging Face · 每日论文

    TokenGate:通过学习式 token 剪枝让 LLM 长上下文预填充提速 1.4–11.3 倍

    AI 导读论文提出 TokenGate,一个可即插即用的小型组件,通过 token 重要性分数重加权注意力 logits 的“token 门控注意力”机制,实现长上下文输入端到端可学习的 token 剪枝,缓解模型逐层处理全部 token 的成本。实验显示其在不损失精度的前提下将首 token 时间(TTFT)提升 1.4–11.3 倍、峰值内存降低 1.5–3.4 倍;相比此前最优 token 剪枝方法,预填充最快提升 6.4 倍、内存降低 2 倍。该方法可扩展至 Qwen3 等标准 transformer 与 Qwen3.5 等混合注意力模型,代码已开源。

    AI 选稿理由提出可端到端训练的 token 剪枝组件 TokenGate,在不损失精度下将长上下文 TTFT 提速 1.4–11.3 倍、峰值内存降低 1.5–3.4 倍,并覆盖标准与混合注意力模型,代码开源。

  3. Hugging Face · 每日论文

    Kronecker Delta Rule for Long Context Linear Attention

    AI 导读研究人员提出KronLSTM,一种基于Kronecker Delta Rule的新型线性注意力架构,通过最小侵入式内存修正机制减少信息干扰,特别适合长上下文语言建模。实验表明,KronLSTM在长上下文基准测试中表现优异,性能优于现有线性注意力架构,且内存动态稳定无需额外归一化机制。

    AI 选稿理由KronLSTM解决了长上下文建模中的内存干扰问题,为稳定的大规模语言模型提供了新的数学基础和开源实现。

  4. Hugging Face · 每日论文

    WildAWM 合成 341 个长程计算机使用环境,训练 Qwen 模型在 8 项基准上提升

    AI 导读研究提出 WildAWM 流水线,用开源模型合成同时支持图形界面、MCP 服务和命令行的可执行环境。通过执行式质量门控——异质智能体 rollout、交叉评判一致性和反事实探针——合成 341 个环境任务对,部分需超过 100 步,GPT-6-Astra 仅解出 60%。两个不同规模 Qwen 模型仅在合成环境中训练,在覆盖网页、claw 和计算机使用智能体的 8 个分布外基准上均取得明显提升。

    AI 选稿理由提供了一套全开源、可复用的计算机使用智能体环境合成流水线,并给出 341 个长程任务和跨 8 个分布外基准的训练结果,适用于关注智能体训练方法与评测的研究者和工程师。

10月17日周六
  1. The Decoder

    Deepseek V4.1 Flash 1017 在智能体任务中超越更大模型,大幅降低单任务成本

    AI 导读Deepseek发布V4.1-Flash-1017开源权重模型,相比前代产品在基准测试中表现更好,完成任务速度更快,输出结果更短。公司还通过新的Search和Fetch API开放内部搜索引擎,API调用价格为每1000次0.75美元,Claude Code和Codex等工具用户目前可免费使用。

    AI 选稿理由Deepseek V4.1 Flash 1017在保持高性能的同时大幅降低成本,为AI智能体应用提供了更具性价比的解决方案。

  2. Hugging Face · 每日论文

    Muse Glimmer 30B:面向消费级硬件的端侧Agent模型

    AI 导读Hugging Face每日论文介绍Muse Glimmer,一个带感知编码器的开源300亿参数因果语言模型,面向消费级硬件上的自主Agent任务。模型将多步推理、可靠工具调用与失败恢复整合在单一模型中,本地运行无需云端基础设施;接受文本与图像输入、输出文本,使用超百种语言数据训练,量化至约4-bit精度以支持单GPU高效推理。作者称其在同量级模型(Gemma4-31B、Qwen3.6-27B)的工具使用、多步规划与Agent任务完成基准上达到SOTA,以Apache 2.0许可发布。

    AI 选稿理由发布了一个Apache 2.0开源的30B端侧Agent模型,将多步推理、工具调用与失败恢复整合进单一模型,在消费级单GPU上以约4-bit量化本地运行,并在同量级Agent基准上报告超越Gemma4-31B与Qwen3.6-27B的结果。

  3. The Decoder

    中国计划对开放权重模型和23项关键技术实施出口管制

    AI 导读中国计划对达到10^26 FLOPs或2万亿参数的AI系统模型权重、源代码和训练方法等23项关键技术实施出口限制。开放源码发布在注册后仍可快速获批,但此举可能促使西方公司更倾向于采用美国开放权重模型而非中国替代方案。

    AI 选稿理由中国首次将开放权重模型纳入出口管制范围,可能重塑全球AI技术竞争格局。