跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT

数据与训练

全部主题
主题资料

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

214 篇文章

最新文章

第 81–100 条 · 共 214 条
10月20日周二
  1. Hugging Face · 每日论文

    Lafa:8B连续流语言模型,相同质量下吞吐量达AR的2.54倍

    AI 导读研究者提出Lafa,将连续流语言模型扩展到8B参数,采用块内双向异步流加前缀因果注意力的设计,可通过改造预训练自回归模型高效训练,并用前缀缓存和块级并行解码加速推理。在0.5B、7B、8B规模上,均以少于300亿token完成训练,指令跟随、推理和编程质量与AR相当或更好,还能蒸馏成流映射,实现一步或少步生成。利用流训练的多token预测效应做自推测解码,吞吐量达AR的2.54倍。

    AI 选稿理由给出8B连续流语言模型的完整训练与推理方案,并在多token预测和自推测解码下报告了2.54倍吞吐的具体结果,属于可复用的生成建模范式进展。

  2. MIT News · AI 与行业突破

    MIT开发E(3)-Pose模型:利用对称性原理提升胎儿脑部MRI诊断可靠性

    AI 导读MIT、波士顿儿童医院和Inria研究人员开发了E(3)-Pose深度学习模型,通过将胎儿头部左右对称性原理融入神经网络架构,解决了胎儿在MRI扫描中移动导致的图像切片角度不一致问题。该模型能捕捉胎儿运动时的高分辨率头部图像,帮助放射科医生更准确诊断脑部异常,有望替代当前缓慢的手动胎儿脑部MRI扫描过程。

    AI 选稿理由解决了胎儿MRI扫描中因运动导致的图像不完整问题,通过物理原理嵌入模型提高诊断准确性,可应用于早期胎儿脑部异常检测。

  3. AWS Machine Learning Blog

    TwelveLabs Pegasus 1.5视频语言模型现已登陆Amazon Bedrock

    AI 导读2026年10月9日,AWS宣布TwelveLabs的Pegasus 1.5视频语言模型已在Amazon Bedrock上线。该模型可将长视频转换为带时间戳的结构化元数据,支持基于用户定义条件匹配视频片段,并引入视频分段、多模态提示和即时处理功能,无需预索引即可直接分析Amazon S3中的视频,数据保持在AWS边界内。

    AI 选稿理由Pegasus 1.5解决了视频内容难以搜索和利用的痛点,通过结构化元数据提取和多模态理解,使企业能高效分析长达两小时的视频内容,无需复杂预处理流程。

10月19日周一
  1. Hugging Face · 每日论文

    BSD:用自蒸馏统一跨词表与闭源API教师

    AI 导读研究提出 Bridged Self-Distillation(BSD)框架:外部教师只提供离线推理轨迹,作为特权上下文;学生模型自身在无上下文条件下生成 rollout,再由同一学生的上下文条件副本充当自教师,在学生自身词表空间为这些 rollout 打分,并结合验证器结果信号调整失败轨迹的更新。由于教师只需输出文本,该方法统一适用于共享词表、跨词表和闭源 API 教师场景,在各类场景中均优于基线和专用方法,代码已开源。

    AI 选稿理由提出一种只依赖教师文本输出的统一在线蒸馏框架,覆盖跨词表和闭源API教师等此前需分别处理的情形,并公开代码,适用于研究蒸馏方法者参考。

  2. Import AI

    Import AI 477:我在IMF会议上谈论奇点已至

    AI 导读Jack Clark在IMF曼谷会议上发表演讲,认为AI已开始自主进行前沿科学研究,奇点已经到来。他列举了AI在数学、生物学、机器人学等领域的突破性进展,如AI解决理论物理问题得分98%超过人类专家。他预测这将加速科学进步,带来经济变革,但也需警惕风险。各国应建设基础设施以利用AI科学能力,同时制定规则确保安全。

    AI 选稿理由AI已开始自主进行前沿科学研究,在多个学科取得突破性进展,将加速全球科学进步并带来经济变革,但也需警惕风险并制定相应规则。

  3. Hugging Face · 每日论文

    扩散语言模型在不同任务和语言中改变生成速度

    AI 导读研究分析了两个扩散模型在10项任务中的表现,发现模型生成每个token所需的前向传递次数因任务而异:复制或轻度编辑文本成本低,开放式写作成本高。输出中相对于输入的新内容比例和词的稀有性是影响成本的关键因素。多语言生成中,高token化语言需要更多传递次数。此外,错误答案比正确答案需要更多传递,按解码速度加权候选答案比多数投票高4.2分。

    AI 选稿理由研究揭示了扩散语言模型计算效率与输出内容创新度之间的关系,为优化推理效率和可靠性提供了实用信号。

  4. Hugging Face · 每日论文

    TokenGate:通过学习式 token 剪枝让 LLM 长上下文预填充提速 1.4–11.3 倍

    AI 导读论文提出 TokenGate,一个可即插即用的小型组件,通过 token 重要性分数重加权注意力 logits 的“token 门控注意力”机制,实现长上下文输入端到端可学习的 token 剪枝,缓解模型逐层处理全部 token 的成本。实验显示其在不损失精度的前提下将首 token 时间(TTFT)提升 1.4–11.3 倍、峰值内存降低 1.5–3.4 倍;相比此前最优 token 剪枝方法,预填充最快提升 6.4 倍、内存降低 2 倍。该方法可扩展至 Qwen3 等标准 transformer 与 Qwen3.5 等混合注意力模型,代码已开源。

    AI 选稿理由提出可端到端训练的 token 剪枝组件 TokenGate,在不损失精度下将长上下文 TTFT 提速 1.4–11.3 倍、峰值内存降低 1.5–3.4 倍,并覆盖标准与混合注意力模型,代码开源。

  5. Nature Machine Intelligence · 研究

    理解与监控推理大语言模型的挑战

    AI 导读前沿大语言模型被训练以逐步解决问题,生成人类可理解的推理文本。然而,这些推理标记并非大语言模型内部计算的准确解释,给模型监控带来了挑战。

    AI 选稿理由研究揭示了推理大语言模型内部计算与外部推理文本之间的差异,为提高模型透明度和可监控性提供了新视角。

  6. Hugging Face · 每日论文

    物理递归自我改进能力来源研究:LLM作为策略的观测缩放定律

    AI 导读该研究系统探讨了物理递归自我改进(RSI)的机制、缩放行为和泛化能力。研究引入PhysRSI-eval评估框架,通过首次尝试性能、效率、成功率、预算和失败改进五个维度量化物理RSI,在18个操作任务中评估不同视觉语言模型(VLM)。实验结果提出"物理桶假设",即不同能力可能限制改进的不同部分。研究还从两个角度进行观测缩放分析:预测VLM代理的相对性能和基于早期物理反馈预测后续进展。

    AI 选稿理由该研究首次系统量化了物理递归自我改进能力,提出物理桶假设,为AI体在物理世界中的自我改进机制提供了理论基础和评估框架。

  7. Hugging Face · 每日论文

    记忆有代价:资源约束下的记忆价值学习研究

    AI 导读研究发现在资源受限情况下,现有终身记忆方法效果不佳,简单检索或无记忆代理反而更有效。TokenWorth框架通过学习查询相关的记忆价值,在三个LifelongAgentBench环境中实现了最高任务成功率并使用最少的输出token,证明有效适应的关键在于学习值得记住的内容而非记住更多。

    AI 选稿理由解决了资源受限环境下终身代理的记忆价值评估问题,为实际部署中的内存管理提供了新方法。

  8. Hugging Face · 每日论文

    DeOverlay:视频叠加物移除基准与源锚定流模型

    AI 导读DeOverlay提出了一种源锚定流模型,用于移除视频中的字幕、标题和logo等叠加物,同时保留周围内容。该模型通过区域加权流匹配训练共享速度网络,结合可见性归一化时间聚合和全局源上下文,实现场景重建。研究团队还创建了DVTE-Bench基准数据集,包含1631对视频和八类文本叠加物。实验显示,DeOverlay在五项重建和感知指标上均优于四个基线,Mask LPIPS和Mask VFID分别降低58.3%和70.3%。

    AI 选稿理由DeOverlay解决了视频叠加物移除中残留和场景结构扭曲的问题,通过源锚定流模型显著提升重建质量,适用于视频编辑和内容处理领域。

  9. Hugging Face · 每日论文

    Any 3D Scene is Worth 1K Tokens: 3D-Grounded Representation for Scene Generation at Scale

    AI 导读研究人员提出了一种直接在高维隐式3D潜在空间中进行场景生成的方法,利用2D基础模型(如DINOv2、SigLIP2、DA3)构建3D潜在表示,并通过扩散变换器在3D潜在空间中执行扩散建模。实验表明,该方法在效率和空间一致性方面优于基于2D的方法,并验证了3D潜在表示对场景生成性能的可扩展性影响。

    AI 选稿理由解决了3D场景生成中2D表示导致的冗余和空间一致性问题,为大规模3D场景生成提供了更高效、更一致的新方法。

  10. Hugging Face · 每日论文

    MemT-1.0:迈向内存原生进化

    AI 导读研究团队推出MemT-1.0,一种将内存作为基础模型内在能力的新架构,采用Gated DeltaNet-2和Mixture-of-Storage技术。该模型家族包含MemT-1.0-Nano和MemT-1.0-Flash,在128K token历史长度下实现1.86倍推理加速和66倍存储减少,同时保持通用能力并提升智能体任务成功率。

    AI 选稿理由MemT-1.0通过内存原生架构解决了长上下文处理的效率和存储瓶颈,为需要长期记忆的AI应用提供了实用解决方案。

  11. Hugging Face · 每日论文

    TEAL:无监督进化代码代理工具库,Sonnet-5 步数受限下最高提升 21.7 分

    AI 导读针对数据湖分析中的编码代理每回答一个问题就丢弃工作、下题从头再来的问题,研究者提出无监督工具进化方法 TEAL:由 Explorer 从数据湖、Critic 从 Worker 轨迹分别提出工具,只有 Worker 重跑时无需额外步骤即可采用、且答案变化有轨迹证据支持才保留。在 KramaBench 和 LakeQA 上,10 或 15 步预算下四个 Worker 模型均有提升;Sonnet-5 在 15 步时分别提升 9.3 和 21.7 分。TEAL-Q 用合成问题进化的工具库与真实问题效果相当。

    AI 选稿理由论文给出无标注工具进化的具体方法及在 KramaBench、LakeQA 两个基准、四个 Worker 模型上的步数预算实验结果,需保留其无监督设定和预算条件。

  12. Hugging Face · 每日论文

    Kronecker Delta Rule for Long Context Linear Attention

    AI 导读研究人员提出KronLSTM,一种基于Kronecker Delta Rule的新型线性注意力架构,通过最小侵入式内存修正机制减少信息干扰,特别适合长上下文语言建模。实验表明,KronLSTM在长上下文基准测试中表现优异,性能优于现有线性注意力架构,且内存动态稳定无需额外归一化机制。

    AI 选稿理由KronLSTM解决了长上下文建模中的内存干扰问题,为稳定的大规模语言模型提供了新的数学基础和开源实现。

  13. Hugging Face · 每日论文

    StreamingSwap:20FPS实时视频换脸,单卡RTX 4090可稳定生成10分钟长视频

    AI 导读研究提出参考引导的流匹配框架StreamingSwap,通过Joint Rec-ID Loss按噪声水平平衡身份监督与隐空间重建,并借助Face-RoI Generation和Short-Context Rollout Training减少空间token与时间上下文长度。同时发布1000小时电影级训练数据及200条短视频、200条长视频评测集HumanFaceVid。实验显示单张RTX 4090上可达20 FPS,最长10分钟视频稳定生成。

    AI 选稿理由提出面向实时流式视频换脸的完整方法与配套数据集HumanFaceVid,在单卡RTX 4090上实现20 FPS、10分钟长视频稳定生成,属于可复用的视频生成方法进展。

  14. Hugging Face · 每日论文

    视觉语言模型子任务层面出现逆向扩展:19个模型、8个多模态基准的系统证据

    AI 导读论文评测4个模型家族的19个模型在8个多模态基准(9个评测切分)上的表现,每个模型回答29,386个问题,共558,334次模型-问题评测。逐题成对分析发现375个子任务-模型对组合呈逆向扩展,涉及4,342个独特查询(小模型答对而大模型答错),且在独立开发的架构间复现;13个子任务-数据集对跨多个家族出现逆向扩展,表明现象由任务驱动而非特定模型所致。受影响最严重的领域包括多图像空间推理、视觉感知和大学级STEM知识,部分准确率差距超过20个百分点,而图表理解相对稳健。

    AI 选稿理由论文给出视觉语言模型在子任务层面逆向扩展的系统量化证据(19模型、558,334次评测、375个逆向扩展组合),并指出该现象跨架构复现、由任务驱动,提示模型选择应按任务区分。

  15. Hugging Face · 每日论文

    SpecKCast:用频域卡尔曼滤波加速扩散模型推理

    AI 导读论文提出免训练方法SpecKCast:对扩散模型输出做二维离散余弦变换,用轻量卡尔曼滤波按噪声调度导出的频带时间坐标跟踪各系数,仅当预测不确定性超阈值时才评估Transformer。在FLUX.1-dev、Qwen-Image、Wan2.1-14B和HunyuanVideo上,该方法在加速与保真度的权衡上优于现有缓存与预测方法,最高实现6倍加速,额外内存不足0.05 GiB。

    AI 选稿理由提出免训练的频域卡尔曼预测方法,在四个图像/视频扩散模型上以不足0.05 GiB额外内存实现最高6倍加速,优于现有特征缓存与外推方法。

  16. Hugging Face · 每日论文

    从舰队经验中学习:机器人集体学习范式

    AI 导读研究团队提出集体经验学习(CEL)范式,通过失败引导的经验检索微调(FERT)方法,让部署中的机器人共享执行经验来改进共同策略。配合容错异步训练系统(FATS),在五个实际操作任务中,策略成功率达93.3-99.2%。96台机器人在手机包装任务中,成功率从79.2%提升至98.3%,无需额外专家纠正动作。

    AI 选稿理由解决了机器人舰队规模扩大时人工监督不足的瓶颈,使机器人能通过共享经验自主学习,大幅提升任务成功率并降低对专家干预的依赖。

  17. Nature Machine Intelligence · 研究

    Nature Machine Intelligence:多组学网络推断框架CORNETO的可重用性研究

    AI 导读该研究评估了CORNETO框架在多组学数据中学习生物网络的可重用性。研究发现,稳健的网络推断取决于数据可用性、先验知识、正则化和生物背景。这项工作揭示了不同条件下网络推断的稳健性差异。

    AI 选稿理由该研究解决了生物网络推断中可重用性的关键问题,为不同数据条件下的网络分析提供了重要参考,有助于提高多组学数据分析的可靠性。