跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT

推理能力

全部主题
主题资料

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

226 篇文章

最新文章

第 81–100 条 · 共 226 条
10月20日周二
  1. Hugging Face · 每日论文

    Specter:用量化多步投机卸载加速MoE推理

    AI 导读Specter将量化、投机解码与专家卸载结合,用轻量量化草稿模型在设备上保留高保真的专家激活模式,从而提前预测并调度后续专家数据的搬移。在单请求推理下,相比当前最优系统,TPOT平均快1.50倍、最高1.88倍,使显存受限的单卡MoE推理更可行。代码已开源。

    AI 选稿理由给出量化草稿模型驱动多步专家预取的具体系统设计,并在单请求场景测得TPOT平均1.50倍、最高1.88倍加速,适用于受PCIe卸载瓶颈限制的MoE推理。

  2. Hugging Face · 每日论文

    研究:通用视觉语言模型可用单选决策做多模态重排序

    AI 导读论文提出把多模态重排序视为“系统一”式单选决策:让通用 VLM 对第一阶段检索的前 16 个候选做一次单选,排序依据是单次前向计算中候选项标签的概率。在 MMEB-V2 图像检索上,该做法比逐候选是/否提问高 5.4–7.3 hit@1。零样本 Qwen3.8-27B 在三个基准上超过监督式 Qwen3-VL-Reranker-2B,并在每个基准上距 Reranker-8B 不超过 1.6 分;其延迟为后者的 1.1–1.5 倍。作者也指出,模型规模和代际差异会混淆对比结果。

    AI 选稿理由给出可复用的多模态重排序方法及 MMEB-V2 等基准的具体增益与延迟数据,并说明模型规模与代际差异会影响对比结论。

  3. Hugging Face · 每日论文

    DiffResearch:使用扩散语言模型加速深度研究

    AI 导读研究团队提出DiffResearch框架,将扩散语言模型(dLLM)应用于深度研究的每个阶段。在100项Deep Research Bench任务中,扩散模型比自回归模型快约6倍,主要得益于规划和写作阶段的显著提速。团队还引入dFast模式,通过读取中间去噪状态提取子查询,实现1.99倍速度提升且不降低报告质量。基于更强扩散模型的系统在排行榜上超越多个商业系统。DiffResearch已以Apache-2.0许可证开源。

    AI 选稿理由扩散语言模型在深度研究框架中实现端到端速度提升6倍,dFast模式进一步加速分解过程,且报告质量保持不变,开源框架可促进研究应用。

  4. Hugging Face · 每日论文

    扩散语言模型代理间的隐藏消息:潜在通信的因果证据

    AI 导读研究证明扩散语言模型代理可通过连续状态传递隐藏消息,接收方会使用这些消息内容。在Tiny-A2D和Dream-7B任务中,移除消息导致性能下降63.6和100.0点;错误消息使QASC准确率从80.8%降至46.8%。单次晚期信息传递效果优于四次交换,提供扩散模型代理间连续隐藏通信的因果证据。

    AI 选稿理由研究首次证明扩散语言模型代理可通过连续状态进行隐藏通信,并展示了信息传递时机比交换次数更重要。

  5. Hugging Face · 每日论文

    Meta Expert:跨层共享专家,降低MoE存储并提升检索效率

    AI 导读研究比较多层Local Expert与跨层共享的Meta Expert,发现共享专家参数冗余更低、交叉熵损失更小、下游准确率更高。在激活专家数量和粒度固定时,仅用70–80%的专家即可达到普通MoE性能;理论分析称Meta Expert为隐藏状态提供更灵活的残差通路,提升信息检索效率。

    AI 选稿理由给出跨层共享专家在MoE中减少冗余的具体实验对比与70–80%专家用量结果,属模型架构研究,尚需按论文实验范围理解。

  6. Hugging Face · 每日论文

    Self-Credit:用组内重缩放为长程智能体强化学习分配信用

    AI 导读针对RLVR奖励稀疏、长程任务难以分配信用的问题,作者提出Self-Credit:先让策略模型在 rollout 中生成带引用的摘要,标出关键证据所在轮次;再用同一提示下成功与失败轨迹的组内一致性重缩放这些引用,削弱错误信用、强化关键动作,并据此调整引用轮次的优势值。在BrowseComp-Plus上,Qwen3 8B与32B分别比基座高37.0和36.2分,比最强智能体RL基线高8.5和5.6分;GAIA与xBench-DeepSearch分别再高4.9和4.7分。

    AI 选稿理由提出无需额外标注的信用分配方法,在Qwen3 8B/32B上给出BrowseComp-Plus、GAIA、xBench-DepSearch的具体提升幅度,适用于长程工具型智能体RL训练研究。

  7. Hugging Face · 每日论文

    EvaOmni基准:392段视频评估视听推理的证据链

    AI 导读研究团队发布EvaOmni视听推理基准,含392段视频、1027个人工标注问答对,覆盖检索定位、基础理解、复杂推理三层共15项能力。评测要求模型同时返回答案与支撑证据区间,并用C.G.衡量证据覆盖、B.G.惩罚单模态时间定位偏差。在24个Omni模型上,Gemini3.7-Flash综合准确率最高(79.4%),但Level 3的B.G.仅12.3%。

    AI 选稿理由新基准把“答案+音视频证据区间”纳入评分,并给出24个Omni模型的分层结果,可复用于视听推理评测。

  8. TLDR AI · 前沿简报

    TLDR AI 2026-10-20:MiniMax M3.1 Flash、Mercury 3 与 Exa 3.0 等 15 条

    AI 导读本期主线包括:MiniMax M3.1 Flash 面向 Agent 与编码任务,称在线推理快近三倍、使用成本降 70%,权重后续开放;Inception Labs 的扩散语言模型 Mercury 3 称在多项基准上超过 GPT-6 Luna 与 Claude Haiku 5.5,生成速度超每秒 1000 token;Cloudflare 介绍不生成 token 的抽取模型 Clairic,输出带置信分数。工程侧,Meta 披露千兆瓦级 Prometheus 超算集群与“薄编排器”Agent 路由架构;PyTorch 原生后端 TorchNeuron 与 vLLM 推式 KV 传输分别面向 Trainium 和分离式推理。此外还有 Exa 3.0 搜索、OpenAI 改进 COBOL 等老旧语言编码、Anthropic 据称再谈 450 亿美元算力交易等条目。

    AI 选稿理由合集内 MiniMax M3.1 Flash 的成本与速度数据、Mercury 3 的扩散模型基准结果、Clairic 的非生成式抽取方法均属可复用新事实,但均需按厂商自报口径看待。

  9. Hugging Face · 每日论文

    Sage-A1.5:35B MoE智能体模型强化长程编排与科学探索

    AI 导读Hugging Face每日论文介绍Sage-A1.5,这是一个在A1基础上构建的35B混合专家智能体模型。相较A1,它不只求解单个任务,还能在執行中组织工作并调整策略:通过子智能体独立上下文的委派与并行协作实现任务分解;以进度检查、证据验证和反思式策略修订提升长程可靠性,识别无效搜索路径并转向;并将能力扩展到开放式科学发现,支持交互式分析与可审查的研究产物。作者通过复杂智能体任务和多学科科学应用展示上述能力。

    AI 选稿理由这是新模型的技术报告,新增点是子智能体并行编排、验证纠偏与科研探索三类能力的组合,适用于长程任务与开放科学场景;目前仅有报告中的任务与多学科应用展示,未给出公开权重或基准对比。

  10. Hugging Face Blog

    PyTorch 2.15 为 Mac 带来 MPS 性能提升,FP8 支持与 MoE 模型解码加速

    AI 导读PyTorch 2.15 为 Apple Silicon Mac 带来多项 MPS 性能优化:FP8 数据类型支持,MoE 模型解码速度提升 5-6.5 倍,线性层和 softmax 运算加速,视频解码内存占用从 270GB 降至 8GB,新增复杂线性代数运算支持。同时提供更精确的 MPS 可用性检查和 Python 流控制功能。

    AI 选稿理由解决了 Mac 平面运行大型模型的性能瓶颈,使 MoE 模型解码速度提升 5-6.5 倍,视频生成内存占用降低 97%,为 Apple Silicon 用户提供了更高效的 AI 模型训练和推理能力。

  11. Hugging Face · 每日论文

    StreamEval:评估交互式流式视频生成模型的统一基准

    AI 导读研究团队推出StreamEval,一个涵盖五个任务的交互式流式视频生成统一基准,包括虚拟人对话、表演、世界生成、指令编辑和参考编辑。该基准包含300个测试用例,通过四个维度(任务执行、状态一致性、视觉保真度和视听协调)评估37个模型,发现高质量视觉和身份保留并不一定可靠执行请求或保持状态一致性,请求执行仍是主要挑战。

    AI 选稿理由StreamEval提供了首个交互式流式视频生成的统一评估框架,揭示了当前模型在请求执行和状态一致性方面的关键缺陷,为实时多模态系统发展指明方向。

  12. Hugging Face · 每日论文

    Ask-to-Distill:用生成的问题做策略蒸馏,无需参考答案

    AI 导读论文提出Ask-to-Distill,把合成问题当作分布引出器,用冻结的学生-教师模型对计算问题价值:结合师生分歧、教师概率质量与学生候选支持,并加入长度和多样性控制,无需参考答案、正确性奖励或逐候选更新。生成的问题经筛选去重后进入纯提示题库供标准OPD使用,在数学推理、代码生成与Agent任务上平均性能超过未优化提示和KL过滤的真实问题。

    AI 选稿理由提出无需参考答案的问题价值代理指标与生成流程,并在三类任务上给出相对真实题库和过滤基线的评测结果。

  13. Hugging Face · 每日论文

    视觉-语言-动作模型机制性研究:特征不平等与脆弱性解析

    AI 导读研究团队开发了解释性管道,发现视觉-语言-动作(VLA)模型将任务指令编码为绝对坐标程序,导致对物体位置变化的脆弱性。通过激活注入实验,模型在99.6%的案例中执行源任务的轨迹,即使面对不同场景。研究还发现不同架构对指令的权重分配差异,以及目标选择与动作生成的分离机制。团队发布了Action Atlas交互平台,包含520+训练SAEs、79个识别概念及UR10e实验结果。

    AI 选稿理由提供了视觉-语言-动作模型的内部工作机制解释,揭示了其脆弱性的根本原因,并开源了可复用的分析工具与数据集。

  14. Hugging Face · 每日论文

    PAR:让循环模型的额外迭代对齐进度,512步状态跟踪达95.5%

    AI 导读论文提出 Progress-Aligned Recurrence(PAR):把第k次迭代的预测对齐到前k步后的状态,并把循环状态缩放回首次迭代的范数。用最多32步训练的Qwen2.5-0.5B在swap-S_5上做512步全状态跟踪,平均准确率95.5%,为训练长度的16倍;同骨干下RLT为55.7%,显式思维链仅0.8%。消融显示去掉范数锚定后外推倍数从16倍降至2.2倍以下,把进度对齐目标换成最终答案监督则至多8倍。

    AI 选稿理由给出可复用的训练方法:进度对齐目标加范数锚定,使循环深度在状态跟踪任务上的外推从不到2.2倍提升到16倍,并附同骨干对照与消融结果。

  15. Hugging Face · 每日论文

    Policy-Mask: 预算感知的扩散特征适应判别任务

    AI 导读研究团队提出Policy-Mask方法,通过预算条件策略联合选择时间步、网络块和通道子集,解决了冻结扩散模型特征选择难题。在分割、分类和语义对应任务中,该方法在相同预算下优于固定提取和特征过滤基线,在ADE20K上达到38.9 mIoU,CIFAR-100上达到75.4% top-1准确率,SPair-71k上达到76.3 PCK@0.1。研究发现256个保留通道是实际操作点,并将方法扩展到PixArt-Σ和SD3.5 MMDiT等扩散变压器。

    AI 选稿理由Policy-Mask通过联合优化特征选择参数,显著提升了扩散模型在判别任务中的性能,并确定了实际操作点。

  16. Hugging Face · 每日论文

    Lafa:8B连续流语言模型,相同质量下吞吐量达AR的2.54倍

    AI 导读研究者提出Lafa,将连续流语言模型扩展到8B参数,采用块内双向异步流加前缀因果注意力的设计,可通过改造预训练自回归模型高效训练,并用前缀缓存和块级并行解码加速推理。在0.5B、7B、8B规模上,均以少于300亿token完成训练,指令跟随、推理和编程质量与AR相当或更好,还能蒸馏成流映射,实现一步或少步生成。利用流训练的多token预测效应做自推测解码,吞吐量达AR的2.54倍。

    AI 选稿理由给出8B连续流语言模型的完整训练与推理方案,并在多token预测和自推测解码下报告了2.54倍吞吐的具体结果,属于可复用的生成建模范式进展。

  17. Nature Machine Intelligence · 研究

    Nature Machine Intelligence:智能体不平等研究

    AI 导读Sharp等人研究了AI智能体获取机会不平等及其质量和数量差异的影响,构建了识别潜在不平等来源的概念框架,并提出研究议程以应对由此产生的社会挑战。

    AI 选稿理由该研究首次系统分析了AI智能体分配不平等问题,为制定更公平的AI治理政策提供了理论基础。

  18. AWS Machine Learning Blog

    Amazon SageMaker JumpStart:2026年前三季度新增100+模型,覆盖30家提供商

    AI 导读2026年1月至9月,Amazon SageMaker JumpStart平台新增了100多个模型,来自30家不同提供商,包括阿里巴巴(Qwen)、NVIDIA、Mistral、Google、IBM和Cohere等。这些模型涵盖推理、多模态、语音识别、文本生成、代码生成、嵌入和重排序等多种能力,支持一键部署和定制化训练,帮助客户快速构建生产级AI应用。

    AI 选稿理由SageMaker JumpStart通过整合多元化开源模型和优化部署流程,显著降低了AI模型从选择到部署的时间成本,同时提供了针对特定任务的高效模型选择。

  19. The Decoder

    MiniMax M3.1 Flash性能提升13分,成本减半,中国AI价格战无底

    AI 导读MiniMax发布M3.1 Flash模型,在Artificial Analysis Intelligence Index上得分42,较前代提升13分,成本减半。该模型在DeepSWE v1.1编程基准测试中达到73.7%准确率,每任务成本低于0.3美元,与Deepseek V4.1 Flash 1017性能和价格相当。

    AI 选稿理由中国AI模型性能持续提升的同时价格持续下降,展示了AI成本效益的突破性进展,使高质量AI服务更加普及。

  20. AWS Machine Learning Blog

    Deepgram使用AWS Trainium优化大规模语音AI处理效率

    AI 导读Deepgram将Nova-3语音识别模型迁移至AWS Trainium2芯片,通过PyTorch重构和内核调优,在批量转录工作负载中实现每美元处理音频量提升11-70%。该优化使Deepgram能够在单台EC2 trn2.3xlarge实例上运行8个模型副本,同时保持与原始模型相同的词错误率(WER)。

    AI 选稿理由解决了语音AI大规模部署中的成本效率瓶颈,使Deepgram能以更低价格提供更高效的语音处理服务,客户在Amazon SageMaker上自托管模型也能受益。