跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
中文动态

#部署/工程.

正在确认更新状态可见页面每分钟只读检查
10月20日周二
  1. AWS Machine Learning Blog

    AWS与AtScale合作构建基于语义层的代理式AI系统

    AI 导读AWS发布技术文章,介绍如何使用AtScale和Amazon Bedrock AgentCore构建语义层,实现代理式AI系统。该方案采用维度模型而非知识图谱,通过语义建模语言(SML)定义模型,同时支持SQL、XMLA和MCP三种协议。系统可确保业务智能工具与代理获得相同计算结果,并支持基于身份的访问控制。

    AI 选稿理由该方案解决了企业数据分散导致的跨系统查询难题,通过语义层统一数据定义,使AI代理和BI工具能从同一数据源获取一致结果,同时支持细粒度访问控制。

  2. AWS Machine Learning Blog

    AWS与Denodo合作构建面向代理式AI的语义层,整合多云数据源

    AI 导读AWS博客介绍如何使用Denodo平台和Amazon Bedrock AgentCore构建代理式AI应用的语义层,实现对企业多云数据的统一访问。该方案整合了Amazon Aurora、Amazon Redshift和本地PostgreSQL数据库,通过Denodo的VQL语言提供实时数据访问,并通过MCP协议向代理暴露受控视图,确保数据安全与隐私。

    AI 选稿理由解决了企业多云数据源整合与安全访问的瓶颈,使AI代理能够实时查询分散在不同环境中的企业数据,无需数据迁移。

  3. TLDR AI · 前沿简报

    TLDR AI 2026-10-20:MiniMax M3.1 Flash、Mercury 3 与 Exa 3.0 等 15 条

    AI 导读本期主线包括:MiniMax M3.1 Flash 面向 Agent 与编码任务,称在线推理快近三倍、使用成本降 70%,权重后续开放;Inception Labs 的扩散语言模型 Mercury 3 称在多项基准上超过 GPT-6 Luna 与 Claude Haiku 5.5,生成速度超每秒 1000 token;Cloudflare 介绍不生成 token 的抽取模型 Clairic,输出带置信分数。工程侧,Meta 披露千兆瓦级 Prometheus 超算集群与“薄编排器”Agent 路由架构;PyTorch 原生后端 TorchNeuron 与 vLLM 推式 KV 传输分别面向 Trainium 和分离式推理。此外还有 Exa 3.0 搜索、OpenAI 改进 COBOL 等老旧语言编码、Anthropic 据称再谈 450 亿美元算力交易等条目。

    AI 选稿理由合集内 MiniMax M3.1 Flash 的成本与速度数据、Mercury 3 的扩散模型基准结果、Clairic 的非生成式抽取方法均属可复用新事实,但均需按厂商自报口径看待。

  4. Hugging Face Blog

    AnyLanguageModel 1.0:苹果平台本地模型运行一周年

    AI 导读Hugging Face发布AnyLanguageModel 1.0,作为苹果Foundation Models框架的替代方案,支持本地和云端模型切换。新增工具调用、引导生成、图像支持等功能,兼容OpenAI、Anthropic、Google等API,并提供swift-huggingface和swift-xet加速下载。本地模型支持Gemma、Qwen3.8等,适配iPhone和Mac设备。

    AI 选稿理由解决了苹果开发者本地模型部署和多云提供商兼容的瓶颈,提供统一API降低开发复杂度,支持从手机到服务器的跨平台部署。

  5. Hugging Face Blog

    PyTorch 2.15 为 Mac 带来 MPS 性能提升,FP8 支持与 MoE 模型解码加速

    AI 导读PyTorch 2.15 为 Apple Silicon Mac 带来多项 MPS 性能优化:FP8 数据类型支持,MoE 模型解码速度提升 5-6.5 倍,线性层和 softmax 运算加速,视频解码内存占用从 270GB 降至 8GB,新增复杂线性代数运算支持。同时提供更精确的 MPS 可用性检查和 Python 流控制功能。

    AI 选稿理由解决了 Mac 平面运行大型模型的性能瓶颈,使 MoE 模型解码速度提升 5-6.5 倍,视频生成内存占用降低 97%,为 Apple Silicon 用户提供了更高效的 AI 模型训练和推理能力。

  6. Latent Space

    AINews(2026年10月16日-19日):DeepSeek V4.1 Flash 1017、MiniMax M3.1 Flash、Mercury 3等模型发布,Anthropic推出公共福利基金

    AI 导读DeepSeek V4.1 Flash 1017成为开源权重价值领导者,在多个基准测试中表现优异;MiniMax M3.1 Flash以1/3成本和3倍速度发布;Mercury 3被称作迄今为止最强大的扩散LLM;Anthropic宣布将约20%股权投入公共福利基金;美国国土安全部要求联邦机构移除DeepSeek产品;Google开源Harness²框架实现智能体自我改进;Claude Opus 5.5在密码学和量子物理领域取得突破。

    AI 选稿理由包含多个模型的具体性能数据、基准测试结果和实际应用案例,以及Anthropic公共福利基金等重大行业动态。

  7. Hugging Face · 每日论文

    从舰队经验中学习:机器人集体学习范式

    AI 导读研究团队提出集体经验学习(CEL)范式,通过失败引导的经验检索微调(FERT)方法,让部署中的机器人共享执行经验来改进共同策略。配合容错异步训练系统(FATS),在五个实际操作任务中,策略成功率达93.3-99.2%。96台机器人在手机包装任务中,成功率从79.2%提升至98.3%,无需额外专家纠正动作。

    AI 选稿理由解决了机器人舰队规模扩大时人工监督不足的瓶颈,使机器人能通过共享经验自主学习,大幅提升任务成功率并降低对专家干预的依赖。

  8. Hugging Face · 每日论文

    分层稀疏注意力 SSA:极端稀疏下缩小与稠密注意力的差距

    AI 导读研究提出分层稀疏注意力 SSA,将确定性检索与分数引导采样结合,对残差 token 按其计入概率校正,从而找回检索集之外的注意力质量,统一涵盖 top-k、top-p 与混合采样。在 RULER、LongBench、LOFT、AIME 及 3B–27B 共五个模型上,SSA 在同等稀疏度下一致优于基线;在 RULER-HARD、Ministral-3-8B、50 倍注意力稀疏下,32K 准确率从 81.8% 升至 84.2%,128K 从 63.8% 升至 69.3%,分别恢复稠密性能的 94% 与 85%。配合优化 CUDA 内核,1M 上下文解码较 FlashInfer 最高提速 2.96 倍,代码已开源。

    AI 选稿理由在多个长上下文基准和五个模型上验证了极端稀疏时缩小与稠密注意力差距的方法,并给出 1M 上下文解码最高 2.96 倍的实测加速,适合关注长上下文推理效率的读者。

  9. Hugging Face · 每日论文

    RoboCasa-Shift:评估视觉语言动作策略在长时程家庭操作中的鲁棒性

    AI 导读研究团队推出RoboCasa-Shift基准,通过控制单因素偏移、匹配清洁-扰动轨迹和模拟器引导的阶段感知诊断,评估GR00T N1.5在四个长时程任务中的鲁棒性。研究发现鲁棒性响应在不同因素和任务间差异显著,且严重程度增加并不总是导致单调退化。同一端到端退化可能对应不同的执行深度配置,表明视觉语言动作鲁棒性应被视为执行的多维属性而非单一端到端性能指标。

    AI 选稿理由提供了一种新的鲁棒性评估方法,揭示了视觉语言动作策略在不同扰动因素下的多维失效模式,适用于机器人操作领域的鲁棒性研究。

  10. Hugging Face · 每日论文

    缓存工程:让Agent直接管理KV缓存,降低成本27.7%

    AI 导读针对Agent长轨迹中KV缓存I/O与存储成为主要成本、裁剪历史又会触发重新预填充的问题,作者提出“缓存工程”:Agent可用drop把选定缓存排除出后续注意力,用repos调整保留键的位置编码,无需改动轨迹前缀。团队将历史依赖视为服务难题并联合设计AKV引擎,以无状态接口内部管理缓存复用、驱逐与恢复。工具响应滚动丢弃策略使平均基准分提高1.7分、平均成本降低27.7%;AKV输出吞吐最高1.2倍,P95请求延迟加速1.5倍;缓存策略递归自改进再降本7.1%。代码已开源。

    AI 选稿理由提出不改轨迹即可控制活跃KV缓存的drop/repos操作,并给出AKV引擎与量化收益,适用于长轨迹Agent推理服务优化。

  11. AWS Machine Learning Blog

    Amazon Bedrock 为所有 Anthropic Claude 模型提供结构化输出

    AI 导读Amazon Bedrock 已在 bedrock-runtime 和 bedrock-mantle 两个端点支持 Claude 模型的结构化输出,可返回符合 JSON Schema 的响应。它通过约束解码在生成时强制 schema,并提供严格工具参数校验。支持批处理与跨区域推理;首次使用新 schema 需编译,语法缓存 24 小时。

    AI 选稿理由Bedrock 为 Claude 全线模型新增结构化输出与严格工具调用,约束解码保证 JSON 合规,适用于数据抽取和 Agent 工作流。

  12. AWS Machine Learning Blog

    AWS 推出全新 SageMaker Studio 登录体验,新用户可快速访问

    AI 导读AWS 宣布新 SageMaker AI 客户现在只需几步即可进入完全配置的 SageMaker Studio 环境,无需设置高级 AWS 账户或输入信用卡信息。新用户可获得 100 美元免费额度,用于模型定制、训练、Studio 笔记本和端点部署,环境创建时间从 2 分钟缩短至约 20 秒。

    AI 选稿理由解决了新用户创建 AWS 账户的复杂流程,使个人开发者和初创团队能在几分钟内从发现模型到部署,大幅降低了 AI 开发门槛。

  13. Hugging Face Blog

    TorchNeuron:在AWS Trainium上运行Hugging Face模型变得前所未有的简单

    AI 导读Hugging Face宣布推出TorchNeuron,这是一个为AWS Trainium提供的新原生PyTorch后端。从2026年10月20日起,研究人员和开发者可通过pip安装使用。TorchNeuron支持eager模式、torch.compile和原生分布式API,使Transformers、Diffusers等库可直接在Trainium上运行,无需通过Optimum Neuron。文本生成模型支持率从46%提升至89%,训练和推理代码与在其他加速器上使用相同。

    AI 选稿理由TorchNeuron简化了在AWS Trainium上部署Hugging Face模型的流程,大幅提高了模型支持率,降低了开发者使用AI芯片的门槛。

  14. AWS Machine Learning Blog

    Deepgram使用AWS Trainium优化大规模语音AI处理效率

    AI 导读Deepgram将Nova-3语音识别模型迁移至AWS Trainium2芯片,通过PyTorch重构和内核调优,在批量转录工作负载中实现每美元处理音频量提升11-70%。该优化使Deepgram能够在单台EC2 trn2.3xlarge实例上运行8个模型副本,同时保持与原始模型相同的词错误率(WER)。

    AI 选稿理由解决了语音AI大规模部署中的成本效率瓶颈,使Deepgram能以更低价格提供更高效的语音处理服务,客户在Amazon SageMaker上自托管模型也能受益。

  15. AWS Machine Learning Blog

    AWS推出基于推送的KV传输技术,提升vLLM推理的TTFT和TPOT性能

    AI 导读AWS在vLLM推理引擎中引入基于推送的NIXL连接器,通过将KV传输协调工作移出关键路径,显著降低了首令牌时间(TTFT)和每输出令牌时间(TPOT)。在Amazon EC2 P5en实例测试中,相比传统拉取模式,新技术使Qwen3-32B模型的TTFT提升最高达3倍,TPOT改善最高达30%。

    AI 选稿理由解决了分布式推理中KV传输延迟瓶颈,使预填充和解码阶段可独立扩展,特别适合高请求率场景下的低延迟应用。

  16. AWS Machine Learning Blog

    AWS推出双向KV传输技术,将vLLM多轮代理工作负载TTFT提升最高3.3倍

    AI 导读AWS提出双向KV传输机制,解决多轮对话中上下文重复计算问题。通过在预填充和解码节点间双向传输KV缓存,避免重复计算历史上下文。在Amazon EC2 P5en实例测试中,Qwen3-32B模型TTFT提升1.6倍,zai-org/GLM-5-FP8模型提升3.3倍。该技术已集成到vLLM中,支持GPU和Trainium实例。

    AI 选稿理由解决了多轮代理工作负载中TTFT随对话增长而恶化的瓶颈,显著提升响应速度并减少计算资源消耗。

10月19日周一
  1. Hugging Face · 每日论文

    SpecKCast:用频域卡尔曼滤波加速扩散模型推理

    AI 导读论文提出免训练方法SpecKCast:对扩散模型输出做二维离散余弦变换,用轻量卡尔曼滤波按噪声调度导出的频带时间坐标跟踪各系数,仅当预测不确定性超阈值时才评估Transformer。在FLUX.1-dev、Qwen-Image、Wan2.1-14B和HunyuanVideo上,该方法在加速与保真度的权衡上优于现有缓存与预测方法,最高实现6倍加速,额外内存不足0.05 GiB。

    AI 选稿理由提出免训练的频域卡尔曼预测方法,在四个图像/视频扩散模型上以不足0.05 GiB额外内存实现最高6倍加速,优于现有特征缓存与外推方法。

10月18日周日
  1. Hugging Face · 每日论文

    ATEST:按当前GPU负载动态调整测试时采样预算

    AI 导读论文指出同一四样本查询在GPU负载升高时能耗可增至4.1倍,因此提出ATEST,把追加样本的预期收益与当前GPU成本一起纳入停止判断。默认的Online模式无需离线校准,在线学习每步能耗;在Phi-3-mini与A100的四个数据集上均未超能耗预算,GSM8K高负载下准确率60.0%且无转交,对比Calibrated的44.0%。

    AI 选稿理由给出了按实时GPU能耗动态停止采样的方法与受控负载下的量化结果,实验限于Phi-3-mini、Qwen2.5-3B和两款英伟达GPU。

10月17日周六
  1. Latent Space

    AINews:Modal 达 10 亿美元 ARR、完成 160 亿美元估值 D 轮;Gemini 4 Argon 等模型密集发布

    AI 导读本期 AINews 三条主线:一,Modal 跨过 10 亿美元年化收入并完成 7.5 亿美元 D 轮、估值 157.5 亿美元,用量一年增长超 15 倍;二,Google 大范围推送 Gemini 4 Argon,覆盖编码、金融、法律、网络安全与科研,并公布酶设计、机器人演示等结果,Neel Nanda 指出其可监控性显著低于以往模型;三,Meta Muse Wonder、Grok Voice 3.0、Ultramarine 1 Flash、DeepSeek V4.1 Flash 等模型与多项基准、Agent 安全事件同期落地。

    AI 选稿理由Gemini 4 Argon 是本期最关键的模型发布,公开了编码、科研与机器人能力数据,同时被评估为可监控性大幅下降、在简单破坏任务中约半数能绕过思维链+行为监控,直接影响依赖模型行为审计的开发者和安全团队。

  2. Latent Space

    AINews:Meta 开源 Muse Spark Open,Agent 分析挑战多义性假说

    AI 导读本期导读三条主线:Meta 发布 816B 总参/42B 激活的 MoE 开放权重模型 Muse Spark Open,1M 上下文并支持文本图像视频音频,AA 智能指数 39 居美国开源首位但落后 GLM-5.3;Goodfire 的 Nick Cammarata 提出“神经网络本来就很干净”,认为许多经典多义性案例可被更强的 agent 分析拆解;此外还有 NVIDIA Nemotron 3.5 Super VL、微软 MAI-Base-2、Gemini 4 Argon 评测,以及 SPACE 沙箱、TPUv7 推理基准等系统与安全研究。

    AI 选稿理由Muse Spark Open 是目前美国最强的开源权重模型,1M 上下文加多模态输入可用于编码与长程 agent,权重可在 4×Blackwell Ultra 或双 Mac Studio 上本地部署;Goodfire 的“已干净”论则给可解释性研究提供了可复用的 agent 分析路径。

  3. Mistral AI76

    Mistral 发布 Timestral 时间序列基础模型

    AI 导读Mistral 发布了 Timestral 时间序列基础模型家族,最大仅209M参数却在主要基准测试上排名第一。该模型家族提供四种规格(5M至209M参数),支持多变量预测和过去及未来协变量,可在CPU上高效运行。Timestral结合合成预训练、协变量感知注意力和长上下文学习,可通过Mistral Forge进行领域适配微调。

    AI 选稿理由Timestral以209M参数在时间序列预测上超越更大模型,且能在CPU上高效运行,降低企业应用门槛。

  4. Hugging Face · 每日论文

    HSPR:通过分层后验推理恢复软件代理基准分数

    AI 导读评估软件代理在完整基准上的成本高昂。小任务子集可以保留代理排名,但会得到不准确的成绩。历史响应提供了有用的结构,但具有相同源响应的任务对于新目标代理可能会有不同的结果。本文介绍了分层分数后验恢复(HSPR),它结合了源拟合响应因素和不确定的群体成功率。观察到的目标结果更新了目标潜在状态和群体率的后验;后验引导的获取选择后续任务。其基于分数的标准等于预期的一步减少全分数后验方差。观察到的成功和未查询任务的先验预测计数产生了全分数后验。最终估计使用其中位数与源选择的校准。在SWE-bench家族的四个任务库的10%任务预算下,HSPR在三个库中实现了最低的平均绝对误差(MAE),在所有四个库中实现了最低的最大绝对误差(MaxErr)。移除群体不确定性或替换自适应查询会增加相应控制中的宏MAE。随着预算的5-20%增加,宏MAE下降。

    AI 选稿理由HSPR通过分层后验推理提高了软件代理基准分数的评估效率,降低了评估成本,适用于需要高效评估软件代理的场景。

  5. Hugging Face · 每日论文

    EdgeKernelBench提出边缘后端统一LLM内核生成基准与LEKA代理

    AI 导读研究提出EdgeKernelBench,用统一IR部署框架和分层基准覆盖从单算子到紧凑模型图的边缘工作负载,以TVM为参考编译器验证异构边缘后端。单次生成中最佳模型Correct@1为64.5%,但Fast@1.0仅25.5%。为此引入分层IR优化的LEKA,在代理评测子集上Fast@1.0达43.5%,直接生成和Claude Code分别为13.0%和26.1%,后两者使用相同基础模型与优化预算。

    AI 选稿理由提出面向异构边缘后端的LLM内核生成统一基准,并给出分层优化代理LEKA;在指定评测子集上以相同基础模型和预算将对齐性能从直接生成的13.0%提升到43.5%,实验限于TVM参考编译器和所测边缘后端。

10月16日周五
  1. The Batch · AI 研究与应用

    The Batch 第375期:Claude Haiku 5.5 与 Mistral Large 4 发布,本地 AI 硬件与数据配比研究

    AI 导读本期主要围绕三条线索:Anthropic 发布 Claude Haiku 5.5 并回顾 Sonnet 5.5,独立评测显示 Haiku 5.5 智能指数 43 排第 13、速度最快,但成本与延迟随推理等级大幅变化;Mistral 发布 1.05 万亿参数 MoE 模型 Large 4 的 API 预览,在 CyberGym-E2E-AA 上以 82% 居公开模型首位,权重将随后开放;Apple、Nvidia、Microsoft 推出面向本地 AI 的桌面与笔记本,Tom's Hardware 用 AgentPerf-Local 测试表明 Nvidia 硬件快于 Apple 与 AMD。此外,清华、蚂蚁与人大提出 CausalMix,用因果方法将数据配比与数据质量分离来优化微调数据选择。

    AI 选稿理由Mistral Large 4 成为中美国之外最强开源权重候选并在漏洞修复任务领先,Claude Haiku 5.5 刷新速度与价格结构,本地硬件与 CausalMix 分别为端侧部署和数据配比提供了可复用的量化参考。

  2. Hugging Face · 每日论文

    DLite:面向 Agentic AI 的无历史投机解码框架

    AI 导读论文指出,Agent 场景下上下文长且持续演化、多轮交互频繁,现有草稿模型接受长度最多下降 80%,维护历史 KV 缓存也带来大量系统开销。DLite 直接复用目标模型的上下文隐藏状态做局部投机预测,不再显式维护历史上下文,并用轻量顺序头恢复块内因果依赖,配合两阶段训练。在通用、长上下文与 Agent 负载上实现 2–6 的接受长度,比 SOTA 方法 DSpark 最高提升 70%。

    AI 选稿理由把 Agent 长上下文下的投机解码从“维护历史”变成“复用目标模型隐藏状态做局部预测”,在通用、长上下文和 Agent 负载上把接受长度提升到 2–6、较 DSpark 最高提升 70%,可用于降低多轮 Agent 推理的延迟与显存开销。

  3. TLDR AI · 前沿简报

    TLDR AI 前沿简报 2026-10-16:Muse Spark Open 开源模型、微软 MAI-Base-2 预训练栈与开放权重占比

    AI 导读本期头条包括:Muse Spark Open 为 816B 参数(激活 42B)、100 万 token 上下文的多模态开放权重模型,面向编码与长周期 Agent 任务,可在两台 Apple M5 Ultra Mac Studio 上用 MLX 本地运行;微软详解 2.8T 参数 MoE 模型 MAI-Base-2 的训练栈,称其在留出预训练评测中超过所有开放权重模型,并计划通过 Foundry 提供企业服务;Liquid AI 发布 d1-ultra 多模态决策模型,定价每百万输入 token 0.042 美元。另有多篇深度分析、Nvidia Nemotron 3.5 Super VL、Krea 3、FLUX 3 Image Klein 等工程与模型进展,以及开放权重模型已占网关超七成 token 和近四分之一花费的统计数据。

    AI 选稿理由Muse Spark Open、微软 MAI-Base-2 训练栈、Liquid d1-ultra 与 Nvidia Nemotron 3.5 Super VL 等集中发布,覆盖长上下文 Agent、企业级前沿模型与低成本决策模型,为开发者和企业提供新的开放权重与 API 选项。

  4. Nature Machine Intelligence · 研究

    Nature机器智能:1万单元离子电子皮肤实现每秒100帧并行触觉感知

    AI 导读研究提出一种神经分层离子电子皮肤,密度达1110单元/平方厘米、规模超10000单元,模仿人类感觉系统的分层处理架构,通过信号编码、汇聚与认知建模逐层传输交互信息。基于频率的位置编码让离子电子传感器实现并行传输,抑制串扰并达到每秒100帧,后端汇聚压缩将带宽消耗降低数百倍。搭载该皮肤的人形机器人可完成分辨300微米表面特征的精细触觉交互,并对伤害性刺激做出自我保护反应。

    AI 选稿理由为大规模高时空分辨率触觉系统提供了可扩展的并行读出方案,使机器人能分辨300微米级表面细节并具备伤害感知自保护能力,可用于人形机器人的精细操作与安全交互。

  5. Hugging Face · 每日论文

    Huginn 架构新研究:循环模型设计需解耦拓扑、输入注入与循环状态

    AI 导读该研究将循环语言模型中的循环位置、输入注入方式与循环状态组织三个设计维度解耦,在相同参数规模、逻辑深度和 token 预算下从头训练模型对照。结果显示 prelude-recurrent block-coda 三明治架构在上下文提取和推理任务上稳定更优,输入注入主要提升知识检索与上下文利用,随机初始化和分离 H/L 循环状态收益混合甚至为负。在 730M 参数、336B token 规模下,完整 Huginn 架构在全部十项基准上超过 Ouro,且该优势可迁移到 MoE 模型。

    AI 选稿理由为循环模型设计提供了可复用的解耦实验结论:Huginn 风格在 8BA0.8B MoE 上用 75% 更少的常驻参数即可超过 112 层前馈基线,并覆盖知识、推理和编码任务。

  6. Hugging Face · 每日论文

    OfficeTown:用生成式组织模拟训练更通用的 AI Agent

    AI 导读研究者提出 OfficeTown,一个面向专业组织的生成式模拟框架:根据组织的目标和活动描述自动初始化组织,成员协调工作、把有限任务委派给助手 Agent 并评审交付物,产出物、决策和未决事项会持续影响后续工作,职责与权限决定成员可见和可做的范围。团队构建了包含 23 个模拟组织、8 个专业领域、406 项任务和 4836 条评估标准的 OfficeTown Bench。前沿模型评测显示仍有较大提升空间;用 OfficeTown 数据做监督微调和同策略蒸馏后,Qwen3.5-9B 在 GDPval 等外部专业工作基准上显著提升,主从式 harness 也优于单/多 Agent 基线。

    AI 选稿理由为通用 Agent 提供了带有组织记忆、权限与评审反馈的可执行训练与评测环境,其数据可迁移提升模型在 GDPval 等外部专业工作基准上的表现。

  7. Hugging Face · 每日论文

    N-Gram Memories at Two Bits: 量化大型语言模型中的查找表

    AI 导读研究提出Conditional Program (CP)压缩表示方法,通过短码和局部尺度重建输入请求的行,仅需两比特编码即可将输出KL降低41-63%。在三个训练的n-gram记忆家族中,共享格子在匹配存储预算下优于测试的拟合码本和低秩残差变体,将DeepSeek的表存储从203GB减少到51GB。

    AI 选稿理由解决了大型语言模型中嵌入表存储瓶颈问题,显著降低存储需求同时保持模型性能,使更多工作负载可驻留在GPU上。

  8. MIT News · AI 与行业突破

    MIT供应链可持续发展报告:83%企业重视ESG,但AI自动化仓库78%能耗反升

    AI 导读MIT可持续供应链实验室调查91国1810名供应链从业者:83%认为可持续发展对长期业务成功重要,为报告七年来最高;但68%因关税不确定性推迟或放弃ESG战略,仅51%设有跨职能可持续团队、33%有董事会层级监督。78%北美企业已在可持续行动中用AI,86%减少物料浪费,但成熟Agentic AI用户中仅53%实现温室气体减排,29%反增;高度自动化仓库中78%报告能耗上升却只有24%用AI实时监测。范围三供应商联合减排参与率一年内从31%升至58%。

    AI 选稿理由报告用1810份问卷量化了AI在可持续场景中的能耗悖论——自动化仓库78%能耗上升、仅24%有实时环境监测,为评估AI落地真实环境成本提供了可复用数据。

  9. NVIDIA Blog62

    NVIDIA 发布 RTX Spark,面向创作者、玩家与 AI 智能体的 Windows PC

    AI 导读NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。

    AI 选稿理由NVIDIA 官方公布 RTX Spark 的本地 AI 定位与全球发布活动安排,并汇总多家媒体评测反馈。

10月15日周四
  1. AWS Machine Learning Blog66

    使用Amazon SageMaker JumpStart部署和评估模型

    AI 导读AWS SageMaker JumpStart提供预训练模型目录,支持一键部署和性能测试。2026年新增模型发现优化和Hugging Face集成功能,用户可通过UI或Python SDK完成模型部署、性能测试和资源清理。

    AI 选稿理由原文提供了完整的模型部署和评估流程,读者可直接迁移到实际工作中。

  2. AWS Machine Learning Blog77

    使用Amazon Bedrock AgentCore生成演示文稿

    AI 导读使用Amazon Bedrock AgentCore构建的AI代理系统可将演示文稿生成时间从手动创建的数小时缩短到90秒以内。该系统使用监督代理路由请求到专门工具,结合RAG管道确保内容基于源文档,并通过Amazon Bedrock Guardrails验证内容合规性。解决方案包含公开代码库,支持企业集成和自定义配置。

    AI 选稿理由原文提供了完整的实现方案和性能数据,读者可以据此评估类似AI代理系统的实用性和成本效益。