跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT

推理能力

全部主题
主题资料

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

226 篇文章

最新文章

第 61–80 条 · 共 226 条
10月21日周三
  1. AWS Machine Learning Blog

    i14用原生PyTorch在AWS Trainium2上训练和部署Laplace 3B线性注意力模型

    AI 导读i14的Laplace 3B模型采用门控线性注意力(GLA)替代softmax注意力,推理时循环状态固定为每条序列29.5 MB,不随上下文增长。AWS团队用TorchNeuron Native将模型移植到Trainium2,保留了GLA设计和Muon优化器。单台trn2.48xlarge训练吞吐约12万token/秒,推理在1280并发序列下达到每秒11544个输出token。文章介绍了模型设计、移植中的三项修改及性能数据。

    AI 选稿理由给出了线性注意力模型在Trainium2上的具体移植方法(GLA核重写、Muon通信优化、反向图展开)及训练/推理吞吐数据,适合关注模型架构与部署工程的读者参考。

  2. AWS Machine Learning Blog

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理:SFT 与 GRPO 的取舍

    AI 导读基座 GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 按目标语言推理(英 100%、法/西/意 0%、德 10%)。作者在 SageMaker HyperPod 上用 LoRA 微调,结论是 SFT 完成主要工作,GRPO 只在有能力提升空间时起作用;另用 Qwen2.5-7B 做对照实验验证该规律。

    AI 选稿理由给出了 SFT 与 GRPO 何时各自动手的可复用判断标准和完整训练栈配置,帮助团队针对非英语用户定制开源推理模型。

  3. AWS Machine Learning Blog

    加拿大用户可通过 Amazon Bedrock 跨区域推理调用 OpenAI GPT-6.1、GPT-6 和 GPT-5.6 模型

    AI 导读AWS 宣布,加拿大中部和西部区域的用户可以通过跨区域推理(CRIS)在 Amazon Bedrock 上访问 OpenAI GPT-6.1 Sol、GPT-6 系列(Astra、Sol、Luna)及 GPT-5.6 系列模型。请求会由源区域路由到美国或全球可用区域处理;这些模型支持 100 万 token 上下文、推理模式、工具调用和提示缓存,并可通过 Responses API、Chat Completions API 和 Converse API 调用。文章还介绍了 IAM 权限、SCP 限制和配额调整方法。

    AI 选稿理由加拿大企业无需自建路由即可在本地区域接入 OpenAI 最新 GPT-6 系列模型,并获得更大的跨区域容量池;这对有北美数据驻留要求的生成式 AI 应用有直接部署价值。

  4. Hugging Face Blog

    FairStress:评估LLM决策中人口公平性的新基准

    AI 导读Hugging Face推出FairStress基准,用于测量大语言模型在人口公平性方面的表现,超越传统仅关注最终决策的方法。该基准包含300个现实场景,测试模型在面对不同人口身份和对抗性前提时的决策稳定性,发现模型在多数群体身份候选者被挑战时更可能放弃正确决策,表现出反刻板印象过度纠正现象。

    AI 选稿理由FairStress解决了传统公平性评估无法捕捉模型决策过程中隐藏偏见的问题,为AI开发者提供了测量模型对称公平性的工具,有助于构建更公平的AI系统。

10月20日周二
  1. AWS Machine Learning Blog

    AWS与Strategy Mosaic合作构建基于语义层的代理AI系统

    AI 导读AWS与Strategy合作,使用Strategy Mosaic作为语义层,通过Amazon Bedrock AgentCore运行Strands代理,实现跨Amazon Redshift和Aurora的客户360视图。该系统支持MCP协议、JDBC/ODBC、XMLA和REST四种原生协议,无需ETL即可连接多种数据源,并实现端到端的行级和对象级安全。

    AI 选稿理由解决了企业AI代理跨多数据源进行语义推理的难题,支持实时数据联邦和统一业务指标定义,降低了复杂查询的开发难度。

  2. AWS Machine Learning Blog

    AWS与AtScale合作构建基于语义层的代理式AI系统

    AI 导读AWS发布技术文章,介绍如何使用AtScale和Amazon Bedrock AgentCore构建语义层,实现代理式AI系统。该方案采用维度模型而非知识图谱,通过语义建模语言(SML)定义模型,同时支持SQL、XMLA和MCP三种协议。系统可确保业务智能工具与代理获得相同计算结果,并支持基于身份的访问控制。

    AI 选稿理由该方案解决了企业数据分散导致的跨系统查询难题,通过语义层统一数据定义,使AI代理和BI工具能从同一数据源获取一致结果,同时支持细粒度访问控制。

  3. Hugging Face Blog

    ALTK-Evolve:使用GPT-4.1学习记忆在客户服务任务中超越τ²-bench排行榜

    AI 导读IBM研究团队开发的ALTK-Evolve系统通过GPT-4.1学习并应用行为指南,在不更新模型权重的情况下,在客户服务基准测试τ²-bench上取得了67.5%的Pass^4分数,超过了所有零售业参赛者。该系统分析代理的训练任务尝试,将成功和失败提炼成简短的行为规则,添加到系统提示中,无需人工标注或权重更新。

    AI 选稿理由解决了基础模型在客户服务任务中的可靠性瓶颈,使非推理模型GPT-4.1通过学习记忆达到专业水平,适用于需要严格遵循政策的客户服务场景。

  4. Latent Space

    AINews(2026年10月16日-19日):DeepSeek V4.1 Flash 1017、MiniMax M3.1 Flash、Mercury 3等模型发布,Anthropic推出公共福利基金

    AI 导读DeepSeek V4.1 Flash 1017成为开源权重价值领导者,在多个基准测试中表现优异;MiniMax M3.1 Flash以1/3成本和3倍速度发布;Mercury 3被称作迄今为止最强大的扩散LLM;Anthropic宣布将约20%股权投入公共福利基金;美国国土安全部要求联邦机构移除DeepSeek产品;Google开源Harness²框架实现智能体自我改进;Claude Opus 5.5在密码学和量子物理领域取得突破。

    AI 选稿理由包含多个模型的具体性能数据、基准测试结果和实际应用案例,以及Anthropic公共福利基金等重大行业动态。

  5. NVIDIA Blog

    巴塞罗那超级计算中心AI工厂加速器项目启动,NVIDIA助力西班牙初创企业创新

    AI 导读巴塞罗那超级计算中心(BSC)的AI工厂加速器项目全面运营,为初创企业提供主权计算资源、技术支持和培训。该项目与NVIDIA Inception计划合作,通过NVIDIA门户提供服务,并计划扩展MareNostrum 5超级计算机以提供更多AI工厂服务。自2025年4月启动以来,已为800多家私营和公共部门客户提供服务。

    AI 选稿理由该项目通过NVIDIA加速计算和AI技术,帮助西班牙初创企业在水资源管理、医疗诊断和制药等领域实现突破,推动区域创新和产业升级。

  6. Hugging Face · 每日论文

    AgenticRoboRL:为机器人规划器做后训练,9B模型成功率从18.1%升至71.0%

    AI 导读研究团队提出 AgenticRoboRL,把编码智能体的后训练思路迁移到机器人规划器。训练流程结合监督微调与多轮强化学习,并通过针对不同执行框架的适配器,将规划器交互记录与任务结果对齐,使 VLA 技能调用和代码生成等执行方式共用一套强化学习流程。在 LIBERO-PRO 上,一个 9B 参数规划器的成功率从 18.1% 提升到 71.0%,在不借助外部记忆的情况下接近 Codex(GPT-5.5)加外部记忆的 72.1%。团队将开源框架和训练好的规划器检查点。

    AI 选稿理由给出机器人规划器可后训练的具体方法,并在 LIBERO-PRO 上把 9B 模型成功率从 18.1% 提升到 71.0%,接近 Codex 加外部记忆的 72.1%,同时承诺开源框架与检查点。

  7. Hugging Face · 每日论文

    构建AI研究团队自主发现线性注意力架构

    AI 导读研究团队提出由不同学科背景的AI研究员组成的协作团队,通过保持独立研究历史、共享实验证据和自适应分配研究机会,在有限实验预算下持续发现新架构。该团队在1.3B规模线性注意力架构搜索中,于语言建模、常识推理和检索任务上超越GDN2模型。移除任何组织组件都会显著降低发现效果。

    AI 选稿理由提出多学科AI研究团队协作机制,在有限预算下实现持续科学发现,实验证明不同背景、独立历史和自适应分配对突破局部最优至关重要。

  8. Hugging Face · 每日论文

    DecisionPivot基准:40个决策模型在对比组准确率上差距显著

    AI 导读研究团队发布DecisionPivot诊断基准,含48项任务、40033条数据,覆盖七类决策角色,核心轨道7800条来自13个生成任务族并组织成对比组。评测40个决策模型和14个通用模型后发现,参考轨道上仅差2.6分的两个27B模型,对比组准确率分别为70.1%和44.2%;Perplexity Decider在2400对二选一中概率排序正确率92.3%,但两项都答对仅74.1%。

    AI 选稿理由新基准将LLM系统内决策模型的评估从单项准确率扩展到对比组、校准与选择性覆盖,并给出多项模型间的具体差异数据,适用于研究LLM路由与护栏评估的读者。

  9. Hugging Face · 每日论文

    分层稀疏注意力 SSA:极端稀疏下缩小与稠密注意力的差距

    AI 导读研究提出分层稀疏注意力 SSA,将确定性检索与分数引导采样结合,对残差 token 按其计入概率校正,从而找回检索集之外的注意力质量,统一涵盖 top-k、top-p 与混合采样。在 RULER、LongBench、LOFT、AIME 及 3B–27B 共五个模型上,SSA 在同等稀疏度下一致优于基线;在 RULER-HARD、Ministral-3-8B、50 倍注意力稀疏下,32K 准确率从 81.8% 升至 84.2%,128K 从 63.8% 升至 69.3%,分别恢复稠密性能的 94% 与 85%。配合优化 CUDA 内核,1M 上下文解码较 FlashInfer 最高提速 2.96 倍,代码已开源。

    AI 选稿理由在多个长上下文基准和五个模型上验证了极端稀疏时缩小与稠密注意力差距的方法,并给出 1M 上下文解码最高 2.96 倍的实测加速,适合关注长上下文推理效率的读者。

  10. Hugging Face · 每日论文

    RoboCasa-Shift:评估视觉语言动作策略在长时程家庭操作中的鲁棒性

    AI 导读研究团队推出RoboCasa-Shift基准,通过控制单因素偏移、匹配清洁-扰动轨迹和模拟器引导的阶段感知诊断,评估GR00T N1.5在四个长时程任务中的鲁棒性。研究发现鲁棒性响应在不同因素和任务间差异显著,且严重程度增加并不总是导致单调退化。同一端到端退化可能对应不同的执行深度配置,表明视觉语言动作鲁棒性应被视为执行的多维属性而非单一端到端性能指标。

    AI 选稿理由提供了一种新的鲁棒性评估方法,揭示了视觉语言动作策略在不同扰动因素下的多维失效模式,适用于机器人操作领域的鲁棒性研究。

  11. Hugging Face · 每日论文

    ConfigWM:用任务描述配置世界模型感知,噪声环境下规划成功率领先22.3%

    AI 导读现有世界模型编码器不随任务调整,容易被与任务无关的视觉细节干扰。ConfigWM 以自然语言任务描述作为配置信号,把视觉嵌入映射到任务专属状态空间,只保留相关信息,再在其中学习动作条件动态用于规划。在干扰逐步增强的环境中,ConfigWM 的规划成功率保持相对稳定,平均超过最强对比方法 22.3%;物理量探测的 Pearson r 提升 0.365,干扰到干净检索提升 75.5%。

    AI 选稿理由提出用语言任务描述驱动状态空间配置的世界模型方法,在噪声递增环境中给出规划成功率、物理量探测与检索三类量化结果,属于有实验范围的能力进展。

  12. Hugging Face · 每日论文

    从强化学习论文到框架代码:七个开源训练框架中的包含与审查

    AI 导读研究者追踪了七个开源强化学习训练框架,分析了它们在2025年1月至2026年6月期间对1,598篇论文的包含情况。研究发现,在180天内被包含的论文数量稳定在5到7篇,这些论文通常具有30B参数以上的训练策略,并经常修改现有损失函数的系数、clip、mask或权重。

    AI 选稿理由该研究提供了关于开源强化学习训练框架中包含和审查过程的详细数据,有助于理解这些框架如何采用新的强化学习方法。

  13. Hugging Face · 每日论文

    S-Agent 2.0:用通用编码代理做空间推理,MMSI-Bench 达 66.5

    AI 导读研究提出 S-Agent 2.0,为现成通用编码代理配备命令行感知工具包,并通过持久场景记忆让模型把工具读到的几何数据转成空间结论。开源底座 Qwen3.8-27B 接入后,MMSI-Bench 和 ReVSI 分别比无工具版本提升 13.9 和 20.5 分,达到 66.5 和 82.3,超过同底座的 SpatialClaw;接 Gemini-3.8-Flash 时同样领先。该方案可运行在 Codex、Claude Code 等代理框架上。

    AI 选稿理由给出空间推理代理的工具接口与记忆设计,并在两个基准上按开源/闭源底座分别报告相对无工具与 SpatialClaw 的具体分数变化,属于可复用的研究方法进展。

  14. Hugging Face · 每日论文

    Code2Video-Compass:覆盖T2V、I2V、V2V的通用代码视频生成基准

    AI 导读研究者发布Code2Video-Compass基准,用于评估多模态大模型把视觉与时间要求转成可执行程序来生成完整视频的能力。基准含2104项任务、10类、24子类和构建、动态动画、状态依赖三个复杂度维度,覆盖T2V、I2V、V2V;采用12项客观指标与5项主观指标的评测框架。15个来自9个家族的专有及开放权重模型测试显示,领先模型仍难稳定生成符合要求的完整视频,复杂度升高时性能普遍下降。

    AI 选稿理由该工作提供覆盖三种输入模态与三个复杂度维度的2104项代码视频生成任务及双层评测框架,并给出15个模型的实证结果,适用于评估程序化视频生成能力。

  15. Hugging Face · 每日论文

    缓存工程:让Agent直接管理KV缓存,降低成本27.7%

    AI 导读针对Agent长轨迹中KV缓存I/O与存储成为主要成本、裁剪历史又会触发重新预填充的问题,作者提出“缓存工程”:Agent可用drop把选定缓存排除出后续注意力,用repos调整保留键的位置编码,无需改动轨迹前缀。团队将历史依赖视为服务难题并联合设计AKV引擎,以无状态接口内部管理缓存复用、驱逐与恢复。工具响应滚动丢弃策略使平均基准分提高1.7分、平均成本降低27.7%;AKV输出吞吐最高1.2倍,P95请求延迟加速1.5倍;缓存策略递归自改进再降本7.1%。代码已开源。

    AI 选稿理由提出不改轨迹即可控制活跃KV缓存的drop/repos操作,并给出AKV引擎与量化收益,适用于长轨迹Agent推理服务优化。

  16. Hugging Face · 每日论文

    StyleStream 2.0:快速可控的流式语音风格转换

    AI 导读StyleStream 2.0通过训练少量步骤的像素MeanFlow模型并使用自回归反馈微调,将端到端延迟降低至520毫秒,比1.0版本提速2倍,同时保持转换质量。该框架引入紧凑的风格嵌入,支持基于文本的语音设计和指令式语音编辑,在目标风格保真度方面达到最强性能。

    AI 选稿理由StyleStream 2.0实现了语音风格转换的延迟优化和文本控制能力提升,适用于实时语音处理和个性化语音生成场景。