跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT

多模态

全部主题
主题资料

文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。

178 篇文章

最新文章

第 61–80 条 · 共 178 条
10月20日周二
  1. Hugging Face · 每日论文

    OverSeer:用固定辅助视角提升多智能体世界模型的一致性

    AI 导读论文提出多智能体世界模型OverSeer,在智能体第一视角之外加入空间固定的辅助摄像机视角,作为世界中心表征的代理,使视角变化直接对应世界状态的局部变化。辅助视角因冗余半静态特性可用delta-VAE仅编码相对静态参考图的变化来压缩token。Minecraft与Doom实验显示世界与智能体一致性提升,真实多相机采集的定性结果表明方法不限于游戏引擎,压缩分析显示计算开销显著降低。

    AI 选稿理由提出固定辅助视角加delta-VAE压缩的多智能体世界模型方法,在Minecraft、Doom及真实多相机数据上验证一致性提升与计算开销降低。

  2. Hugging Face · 每日论文

    构建AI研究团队自主发现线性注意力架构

    AI 导读研究团队提出由不同学科背景的AI研究员组成的协作团队,通过保持独立研究历史、共享实验证据和自适应分配研究机会,在有限实验预算下持续发现新架构。该团队在1.3B规模线性注意力架构搜索中,于语言建模、常识推理和检索任务上超越GDN2模型。移除任何组织组件都会显著降低发现效果。

    AI 选稿理由提出多学科AI研究团队协作机制,在有限预算下实现持续科学发现,实验证明不同背景、独立历史和自适应分配对突破局部最优至关重要。

  3. Hugging Face · 每日论文

    RoboCasa-Shift:评估视觉语言动作策略在长时程家庭操作中的鲁棒性

    AI 导读研究团队推出RoboCasa-Shift基准,通过控制单因素偏移、匹配清洁-扰动轨迹和模拟器引导的阶段感知诊断,评估GR00T N1.5在四个长时程任务中的鲁棒性。研究发现鲁棒性响应在不同因素和任务间差异显著,且严重程度增加并不总是导致单调退化。同一端到端退化可能对应不同的执行深度配置,表明视觉语言动作鲁棒性应被视为执行的多维属性而非单一端到端性能指标。

    AI 选稿理由提供了一种新的鲁棒性评估方法,揭示了视觉语言动作策略在不同扰动因素下的多维失效模式,适用于机器人操作领域的鲁棒性研究。

  4. Hugging Face · 每日论文

    ConfigWM:用任务描述配置世界模型感知,噪声环境下规划成功率领先22.3%

    AI 导读现有世界模型编码器不随任务调整,容易被与任务无关的视觉细节干扰。ConfigWM 以自然语言任务描述作为配置信号,把视觉嵌入映射到任务专属状态空间,只保留相关信息,再在其中学习动作条件动态用于规划。在干扰逐步增强的环境中,ConfigWM 的规划成功率保持相对稳定,平均超过最强对比方法 22.3%;物理量探测的 Pearson r 提升 0.365,干扰到干净检索提升 75.5%。

    AI 选稿理由提出用语言任务描述驱动状态空间配置的世界模型方法,在噪声递增环境中给出规划成功率、物理量探测与检索三类量化结果,属于有实验范围的能力进展。

  5. Hugging Face · 每日论文

    S-Agent 2.0:用通用编码代理做空间推理,MMSI-Bench 达 66.5

    AI 导读研究提出 S-Agent 2.0,为现成通用编码代理配备命令行感知工具包,并通过持久场景记忆让模型把工具读到的几何数据转成空间结论。开源底座 Qwen3.8-27B 接入后,MMSI-Bench 和 ReVSI 分别比无工具版本提升 13.9 和 20.5 分,达到 66.5 和 82.3,超过同底座的 SpatialClaw;接 Gemini-3.8-Flash 时同样领先。该方案可运行在 Codex、Claude Code 等代理框架上。

    AI 选稿理由给出空间推理代理的工具接口与记忆设计,并在两个基准上按开源/闭源底座分别报告相对无工具与 SpatialClaw 的具体分数变化,属于可复用的研究方法进展。

  6. Hugging Face · 每日论文

    Code2Video-Compass:覆盖T2V、I2V、V2V的通用代码视频生成基准

    AI 导读研究者发布Code2Video-Compass基准,用于评估多模态大模型把视觉与时间要求转成可执行程序来生成完整视频的能力。基准含2104项任务、10类、24子类和构建、动态动画、状态依赖三个复杂度维度,覆盖T2V、I2V、V2V;采用12项客观指标与5项主观指标的评测框架。15个来自9个家族的专有及开放权重模型测试显示,领先模型仍难稳定生成符合要求的完整视频,复杂度升高时性能普遍下降。

    AI 选稿理由该工作提供覆盖三种输入模态与三个复杂度维度的2104项代码视频生成任务及双层评测框架,并给出15个模型的实证结果,适用于评估程序化视频生成能力。

  7. Hugging Face · 每日论文

    StyleStream 2.0:快速可控的流式语音风格转换

    AI 导读StyleStream 2.0通过训练少量步骤的像素MeanFlow模型并使用自回归反馈微调,将端到端延迟降低至520毫秒,比1.0版本提速2倍,同时保持转换质量。该框架引入紧凑的风格嵌入,支持基于文本的语音设计和指令式语音编辑,在目标风格保真度方面达到最强性能。

    AI 选稿理由StyleStream 2.0实现了语音风格转换的延迟优化和文本控制能力提升,适用于实时语音处理和个性化语音生成场景。

  8. Hugging Face · 每日论文

    研究:通用视觉语言模型可用单选决策做多模态重排序

    AI 导读论文提出把多模态重排序视为“系统一”式单选决策:让通用 VLM 对第一阶段检索的前 16 个候选做一次单选,排序依据是单次前向计算中候选项标签的概率。在 MMEB-V2 图像检索上,该做法比逐候选是/否提问高 5.4–7.3 hit@1。零样本 Qwen3.8-27B 在三个基准上超过监督式 Qwen3-VL-Reranker-2B,并在每个基准上距 Reranker-8B 不超过 1.6 分;其延迟为后者的 1.1–1.5 倍。作者也指出,模型规模和代际差异会混淆对比结果。

    AI 选稿理由给出可复用的多模态重排序方法及 MMEB-V2 等基准的具体增益与延迟数据,并说明模型规模与代际差异会影响对比结论。

  9. Hugging Face · 每日论文

    DiffResearch:使用扩散语言模型加速深度研究

    AI 导读研究团队提出DiffResearch框架,将扩散语言模型(dLLM)应用于深度研究的每个阶段。在100项Deep Research Bench任务中,扩散模型比自回归模型快约6倍,主要得益于规划和写作阶段的显著提速。团队还引入dFast模式,通过读取中间去噪状态提取子查询,实现1.99倍速度提升且不降低报告质量。基于更强扩散模型的系统在排行榜上超越多个商业系统。DiffResearch已以Apache-2.0许可证开源。

    AI 选稿理由扩散语言模型在深度研究框架中实现端到端速度提升6倍,dFast模式进一步加速分解过程,且报告质量保持不变,开源框架可促进研究应用。

  10. Hugging Face · 每日论文

    扩散语言模型代理间的隐藏消息:潜在通信的因果证据

    AI 导读研究证明扩散语言模型代理可通过连续状态传递隐藏消息,接收方会使用这些消息内容。在Tiny-A2D和Dream-7B任务中,移除消息导致性能下降63.6和100.0点;错误消息使QASC准确率从80.8%降至46.8%。单次晚期信息传递效果优于四次交换,提供扩散模型代理间连续隐藏通信的因果证据。

    AI 选稿理由研究首次证明扩散语言模型代理可通过连续状态进行隐藏通信,并展示了信息传递时机比交换次数更重要。

  11. Hugging Face · 每日论文

    DuoLM:基于语言模型的高效个性化推荐框架

    AI 导读研究团队提出DuoLM框架,通过紧凑推荐模型与高效运行时结合,实现个性化推荐。编码器LLM学习可重用的紧凑物品表示,个性化排序器LLM结合用户历史与反馈进行推荐。在单块H100上每秒可处理约26,400个候选评分,比vLLM服务教师模型的吞吐量提高约60倍,同时保持与专家教师模型相当的推荐质量。

    AI 选稿理由DuoLM框架通过模型压缩与优化推理,在保持推荐质量的同时将服务吞吐量提升60倍,适用于大规模个性化推荐场景。

  12. Nature Machine Intelligence · 研究

    Lagrangian–Eulerian学习模型TrajectoryFlowNet同时预测流场和粒子轨迹

    AI 导读Wan等人提出了一种物理信息学习模型TrajectoryFlowNet,能够基于有限的轨迹测量数据同时预测长程粒子路径和流场,已在模拟和血液流动实验中得到验证。

    AI 选稿理由该模型解决了流场和轨迹预测中数据稀疏性的瓶颈,可用于医学血流分析等需要精确预测粒子运动的领域,显著提高了预测精度和效率。

  13. Hugging Face · 每日论文

    EvaOmni基准:392段视频评估视听推理的证据链

    AI 导读研究团队发布EvaOmni视听推理基准,含392段视频、1027个人工标注问答对,覆盖检索定位、基础理解、复杂推理三层共15项能力。评测要求模型同时返回答案与支撑证据区间,并用C.G.衡量证据覆盖、B.G.惩罚单模态时间定位偏差。在24个Omni模型上,Gemini3.7-Flash综合准确率最高(79.4%),但Level 3的B.G.仅12.3%。

    AI 选稿理由新基准把“答案+音视频证据区间”纳入评分,并给出24个Omni模型的分层结果,可复用于视听推理评测。

  14. Hugging Face · 每日论文

    MMEnterprise-Bench:用1613道题考察企业Agent处理动态多模态记录

    AI 导读研究者提出MMEnterprise-Bench基准,包含1,613个基于模拟协作项目动态多模态记录的问题,分为证据推理、冲突消解、不可回答三类。评测10个开源与专有多模态大模型发现,最强模型在跨源或时间冲突、证据跨多图时仍表现不佳;提高检索预算或换更大检索器只提升证据召回,未稳定提升答案准确率。

    AI 选稿理由为企业多模态Agent提供可复用的评测基准与实证发现:检索召回提升未稳定转化为答案准确率,适用于评估动态记录问答系统。

  15. Hugging Face · 每日论文

    VPM 世界模型:用点轨迹预测多视角未来视频并驱动机器人

    AI 导读研究提出 Video-Point Model(VPM),以多视角视频历史和语言指令为条件,联合预测任意视角的未来视频和持续场景点的 3D 轨迹。团队扩展预训练世界模型,加入相机条件多视角处理和轨迹预测头,并构建 VPM-Data 仿真语料与 VP-WorldBench 基准。将动作作为 token 接入后,该模型在仿真与真实机器人操作中成功率均提升。

    AI 选稿理由新增可复用的世界模型方法:点轨迹监督同时改善视频保真度与 3D 运动精度,并覆盖仿真和真机操作任务。

  16. Hugging Face · 每日论文

    StreamEval:评估交互式流式视频生成模型的统一基准

    AI 导读研究团队推出StreamEval,一个涵盖五个任务的交互式流式视频生成统一基准,包括虚拟人对话、表演、世界生成、指令编辑和参考编辑。该基准包含300个测试用例,通过四个维度(任务执行、状态一致性、视觉保真度和视听协调)评估37个模型,发现高质量视觉和身份保留并不一定可靠执行请求或保持状态一致性,请求执行仍是主要挑战。

    AI 选稿理由StreamEval提供了首个交互式流式视频生成的统一评估框架,揭示了当前模型在请求执行和状态一致性方面的关键缺陷,为实时多模态系统发展指明方向。

  17. Hugging Face · 每日论文

    视觉-语言-动作模型机制性研究:特征不平等与脆弱性解析

    AI 导读研究团队开发了解释性管道,发现视觉-语言-动作(VLA)模型将任务指令编码为绝对坐标程序,导致对物体位置变化的脆弱性。通过激活注入实验,模型在99.6%的案例中执行源任务的轨迹,即使面对不同场景。研究还发现不同架构对指令的权重分配差异,以及目标选择与动作生成的分离机制。团队发布了Action Atlas交互平台,包含520+训练SAEs、79个识别概念及UR10e实验结果。

    AI 选稿理由提供了视觉-语言-动作模型的内部工作机制解释,揭示了其脆弱性的根本原因,并开源了可复用的分析工具与数据集。

  18. Hugging Face · 每日论文

    JCA:为任意骨骼绑定同时生成3D动作与视频

    AI 导读NVIDIA研究团队提出Joints, Camera, Action!(JCA)模型,可为任意给定的骨骼绑定(rig)同时生成视频与可回放的3D动作,并估计相机将动作配准到场景。方法将3D动作保留在独立模型中,通过少量交叉注意力层连接预训练视频模型;模型还学习在视频帧中定位每个关节以恢复相机。借助生成式视频编辑器布置动画3D资产,团队整理出近20万对训练数据(含人与机器人视频)。评测显示该模型从文本驱动多样骨骼比视频优先管线更忠实,动作会响应周围场景,且支持视频转骨骼动作、骨骼动作转视频及基于关键帧的3D动作控制。

    AI 选稿理由提出首个支持任意骨骼绑定的视频与3D动作协同生成方法,通过分离式架构与关节定位恢复相机,用近20万训练对实现可回放、场景响应的3D动作生成及双向转换。

  19. Hugging Face · 每日论文

    真实数据驱动的场景文本编辑:TextRIRO模型实现高保真度文本修改

    AI 导读研究团队提出TextRIRO模型,通过破坏原始图像(如裁剪、打乱、遮盖)构建自配对训练数据,基于条件扩散架构实现场景文本编辑。实验表明,结合字符列打乱与图像裁剪的方法能有效破坏文本语义同时保留风格线索,在真实世界基准测试中取得准确性和视觉真实性的优异表现,并构建了TextRIRO-3M大规模长文本识别数据集。

    AI 选稿理由TextRIRO模型通过自配对真实数据训练,显著降低了合成到真实领域的差距,为场景文本编辑提供了更可靠、更实用的解决方案。

  20. Hugging Face · 每日论文

    SolarRenderer:用两个轻量LoRA让冻结的MiniMax-H3四步生成结构化参考视频

    AI 导读研究提出结构条件视频渲染器SolarRenderer,基于冻结的33B MiniMax-H3主干加两个轻量LoRA,将结构视频直接送入原生参考通道,仅用纯文本描述,无需类型标识。借助四步LoRA与结构引导分布匹配,渲染比50步采样快12.3倍;块因果变体支持实时生成768p视频。模型在13.6万片段对齐语料上训练,在分布内测试集和16种结构表示的泛化基准上均达SOTA,并泛化到姿态骨架、手绘图、点云等11种未见表示。

    AI 选稿理由新增结果:SolarRenderer以冻结MiniMax-H3 33B加两个轻量LoRA实现四步结构条件渲染,速度提升12.3倍并在16种结构表示基准上验证,适用于游戏引擎与编码代理生成视频的研究场景。