跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
中文动态

#开源生态.

正在确认更新状态可见页面每分钟只读检查
10月21日周三
  1. The Decoder

    DeepSeek 开源其最快最便宜模型 V4.1-Flash 背后的推理框架 DeepInfer

    AI 导读DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。

    AI 选稿理由DeepSeek 开源了支撑 V4.1-Flash 的 DeepInfer 推理框架,基于 vLLM、主打降低算力成本与能耗,为可复用的推理工程方案。

  2. AWS Machine Learning Blog

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理:SFT 与 GRPO 的取舍

    AI 导读基座 GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 按目标语言推理(英 100%、法/西/意 0%、德 10%)。作者在 SageMaker HyperPod 上用 LoRA 微调,结论是 SFT 完成主要工作,GRPO 只在有能力提升空间时起作用;另用 Qwen2.5-7B 做对照实验验证该规律。

    AI 选稿理由给出了 SFT 与 GRPO 何时各自动手的可复用判断标准和完整训练栈配置,帮助团队针对非英语用户定制开源推理模型。

  3. Hugging Face Blog

    Hugging Face 推出 TorchTPU:TPU 现已成为 PyTorch 原生支持设备

    AI 导读Hugging Face 发布 TorchTPU,将 TPU 作为 PyTorch 的原生后端,使开发者无需修改代码即可在 TPU 上运行 Transformers、Diffusers 等库。用户只需将模型发送到 'tpu' 设备即可完成部署,支持分布式训练和 torch.compile 优化。TorchTPU 还提供了 Pallas 内核和 Kernels Hub 的 TPU 内核支持,显著提升模型推理速度。

    AI 选稿理由TorchTPU 解决了 PyTorch 用户在 TPU 上部署的复杂性问题,使 TPU 成为与 GPU、CPU 平等的原生设备,大幅简化了 Hugging Face 生态在 TPU 上的使用门槛。

10月20日周二
  1. Hugging Face Blog

    AnyLanguageModel 1.0:苹果平台本地模型运行一周年

    AI 导读Hugging Face发布AnyLanguageModel 1.0,作为苹果Foundation Models框架的替代方案,支持本地和云端模型切换。新增工具调用、引导生成、图像支持等功能,兼容OpenAI、Anthropic、Google等API,并提供swift-huggingface和swift-xet加速下载。本地模型支持Gemma、Qwen3.8等,适配iPhone和Mac设备。

    AI 选稿理由解决了苹果开发者本地模型部署和多云提供商兼容的瓶颈,提供统一API降低开发复杂度,支持从手机到服务器的跨平台部署。

  2. Hugging Face Blog

    PyTorch 2.15 为 Mac 带来 MPS 性能提升,FP8 支持与 MoE 模型解码加速

    AI 导读PyTorch 2.15 为 Apple Silicon Mac 带来多项 MPS 性能优化:FP8 数据类型支持,MoE 模型解码速度提升 5-6.5 倍,线性层和 softmax 运算加速,视频解码内存占用从 270GB 降至 8GB,新增复杂线性代数运算支持。同时提供更精确的 MPS 可用性检查和 Python 流控制功能。

    AI 选稿理由解决了 Mac 平面运行大型模型的性能瓶颈,使 MoE 模型解码速度提升 5-6.5 倍,视频生成内存占用降低 97%,为 Apple Silicon 用户提供了更高效的 AI 模型训练和推理能力。

  3. Hugging Face · 每日论文

    Kronecker Delta Rule for Long Context Linear Attention

    AI 导读研究人员提出KronLSTM,一种基于Kronecker Delta Rule的新型线性注意力架构,通过最小侵入式内存修正机制减少信息干扰,特别适合长上下文语言建模。实验表明,KronLSTM在长上下文基准测试中表现优异,性能优于现有线性注意力架构,且内存动态稳定无需额外归一化机制。

    AI 选稿理由KronLSTM解决了长上下文建模中的内存干扰问题,为稳定的大规模语言模型提供了新的数学基础和开源实现。

  4. Latent Space

    AINews(2026年10月16日-19日):DeepSeek V4.1 Flash 1017、MiniMax M3.1 Flash、Mercury 3等模型发布,Anthropic推出公共福利基金

    AI 导读DeepSeek V4.1 Flash 1017成为开源权重价值领导者,在多个基准测试中表现优异;MiniMax M3.1 Flash以1/3成本和3倍速度发布;Mercury 3被称作迄今为止最强大的扩散LLM;Anthropic宣布将约20%股权投入公共福利基金;美国国土安全部要求联邦机构移除DeepSeek产品;Google开源Harness²框架实现智能体自我改进;Claude Opus 5.5在密码学和量子物理领域取得突破。

    AI 选稿理由包含多个模型的具体性能数据、基准测试结果和实际应用案例,以及Anthropic公共福利基金等重大行业动态。

  5. Hugging Face · 每日论文

    构建AI研究团队自主发现线性注意力架构

    AI 导读研究团队提出由不同学科背景的AI研究员组成的协作团队,通过保持独立研究历史、共享实验证据和自适应分配研究机会,在有限实验预算下持续发现新架构。该团队在1.3B规模线性注意力架构搜索中,于语言建模、常识推理和检索任务上超越GDN2模型。移除任何组织组件都会显著降低发现效果。

    AI 选稿理由提出多学科AI研究团队协作机制,在有限预算下实现持续科学发现,实验证明不同背景、独立历史和自适应分配对突破局部最优至关重要。

  6. Hugging Face · 每日论文

    分层稀疏注意力 SSA:极端稀疏下缩小与稠密注意力的差距

    AI 导读研究提出分层稀疏注意力 SSA,将确定性检索与分数引导采样结合,对残差 token 按其计入概率校正,从而找回检索集之外的注意力质量,统一涵盖 top-k、top-p 与混合采样。在 RULER、LongBench、LOFT、AIME 及 3B–27B 共五个模型上,SSA 在同等稀疏度下一致优于基线;在 RULER-HARD、Ministral-3-8B、50 倍注意力稀疏下,32K 准确率从 81.8% 升至 84.2%,128K 从 63.8% 升至 69.3%,分别恢复稠密性能的 94% 与 85%。配合优化 CUDA 内核,1M 上下文解码较 FlashInfer 最高提速 2.96 倍,代码已开源。

    AI 选稿理由在多个长上下文基准和五个模型上验证了极端稀疏时缩小与稠密注意力差距的方法,并给出 1M 上下文解码最高 2.96 倍的实测加速,适合关注长上下文推理效率的读者。

  7. Hugging Face · 每日论文

    从强化学习论文到框架代码:七个开源训练框架中的包含与审查

    AI 导读研究者追踪了七个开源强化学习训练框架,分析了它们在2025年1月至2026年6月期间对1,598篇论文的包含情况。研究发现,在180天内被包含的论文数量稳定在5到7篇,这些论文通常具有30B参数以上的训练策略,并经常修改现有损失函数的系数、clip、mask或权重。

    AI 选稿理由该研究提供了关于开源强化学习训练框架中包含和审查过程的详细数据,有助于理解这些框架如何采用新的强化学习方法。

  8. Hugging Face · 每日论文

    缓存工程:让Agent直接管理KV缓存,降低成本27.7%

    AI 导读针对Agent长轨迹中KV缓存I/O与存储成为主要成本、裁剪历史又会触发重新预填充的问题,作者提出“缓存工程”:Agent可用drop把选定缓存排除出后续注意力,用repos调整保留键的位置编码,无需改动轨迹前缀。团队将历史依赖视为服务难题并联合设计AKV引擎,以无状态接口内部管理缓存复用、驱逐与恢复。工具响应滚动丢弃策略使平均基准分提高1.7分、平均成本降低27.7%;AKV输出吞吐最高1.2倍,P95请求延迟加速1.5倍;缓存策略递归自改进再降本7.1%。代码已开源。

    AI 选稿理由提出不改轨迹即可控制活跃KV缓存的drop/repos操作,并给出AKV引擎与量化收益,适用于长轨迹Agent推理服务优化。

  9. Hugging Face · 每日论文

    DiffResearch:使用扩散语言模型加速深度研究

    AI 导读研究团队提出DiffResearch框架,将扩散语言模型(dLLM)应用于深度研究的每个阶段。在100项Deep Research Bench任务中,扩散模型比自回归模型快约6倍,主要得益于规划和写作阶段的显著提速。团队还引入dFast模式,通过读取中间去噪状态提取子查询,实现1.99倍速度提升且不降低报告质量。基于更强扩散模型的系统在排行榜上超越多个商业系统。DiffResearch已以Apache-2.0许可证开源。

    AI 选稿理由扩散语言模型在深度研究框架中实现端到端速度提升6倍,dFast模式进一步加速分解过程,且报告质量保持不变,开源框架可促进研究应用。

10月19日周一
  1. Hugging Face · 每日论文

    BSD:用自蒸馏统一跨词表与闭源API教师

    AI 导读研究提出 Bridged Self-Distillation(BSD)框架:外部教师只提供离线推理轨迹,作为特权上下文;学生模型自身在无上下文条件下生成 rollout,再由同一学生的上下文条件副本充当自教师,在学生自身词表空间为这些 rollout 打分,并结合验证器结果信号调整失败轨迹的更新。由于教师只需输出文本,该方法统一适用于共享词表、跨词表和闭源 API 教师场景,在各类场景中均优于基线和专用方法,代码已开源。

    AI 选稿理由提出一种只依赖教师文本输出的统一在线蒸馏框架,覆盖跨词表和闭源API教师等此前需分别处理的情形,并公开代码,适用于研究蒸馏方法者参考。

  2. Hugging Face · 每日论文

    TokenGate:通过学习式 token 剪枝让 LLM 长上下文预填充提速 1.4–11.3 倍

    AI 导读论文提出 TokenGate,一个可即插即用的小型组件,通过 token 重要性分数重加权注意力 logits 的“token 门控注意力”机制,实现长上下文输入端到端可学习的 token 剪枝,缓解模型逐层处理全部 token 的成本。实验显示其在不损失精度的前提下将首 token 时间(TTFT)提升 1.4–11.3 倍、峰值内存降低 1.5–3.4 倍;相比此前最优 token 剪枝方法,预填充最快提升 6.4 倍、内存降低 2 倍。该方法可扩展至 Qwen3 等标准 transformer 与 Qwen3.5 等混合注意力模型,代码已开源。

    AI 选稿理由提出可端到端训练的 token 剪枝组件 TokenGate,在不损失精度下将长上下文 TTFT 提速 1.4–11.3 倍、峰值内存降低 1.5–3.4 倍,并覆盖标准与混合注意力模型,代码开源。

  3. Hugging Face · 每日论文

    WildAWM 合成 341 个长程计算机使用环境,训练 Qwen 模型在 8 项基准上提升

    AI 导读研究提出 WildAWM 流水线,用开源模型合成同时支持图形界面、MCP 服务和命令行的可执行环境。通过执行式质量门控——异质智能体 rollout、交叉评判一致性和反事实探针——合成 341 个环境任务对,部分需超过 100 步,GPT-6-Astra 仅解出 60%。两个不同规模 Qwen 模型仅在合成环境中训练,在覆盖网页、claw 和计算机使用智能体的 8 个分布外基准上均取得明显提升。

    AI 选稿理由提供了一套全开源、可复用的计算机使用智能体环境合成流水线,并给出 341 个长程任务和跨 8 个分布外基准的训练结果,适用于关注智能体训练方法与评测的研究者和工程师。

10月17日周六
  1. The Decoder

    Deepseek V4.1 Flash 1017 在智能体任务中超越更大模型,大幅降低单任务成本

    AI 导读Deepseek发布V4.1-Flash-1017开源权重模型,相比前代产品在基准测试中表现更好,完成任务速度更快,输出结果更短。公司还通过新的Search和Fetch API开放内部搜索引擎,API调用价格为每1000次0.75美元,Claude Code和Codex等工具用户目前可免费使用。

    AI 选稿理由Deepseek V4.1 Flash 1017在保持高性能的同时大幅降低成本,为AI智能体应用提供了更具性价比的解决方案。

  2. The Decoder

    中国计划对开放权重模型和23项关键技术实施出口管制

    AI 导读中国计划对达到10^26 FLOPs或2万亿参数的AI系统模型权重、源代码和训练方法等23项关键技术实施出口限制。开放源码发布在注册后仍可快速获批,但此举可能促使西方公司更倾向于采用美国开放权重模型而非中国替代方案。

    AI 选稿理由中国首次将开放权重模型纳入出口管制范围,可能重塑全球AI技术竞争格局。

  3. Latent Space

    AINews:Meta 开源 Muse Spark Open,Agent 分析挑战多义性假说

    AI 导读本期导读三条主线:Meta 发布 816B 总参/42B 激活的 MoE 开放权重模型 Muse Spark Open,1M 上下文并支持文本图像视频音频,AA 智能指数 39 居美国开源首位但落后 GLM-5.3;Goodfire 的 Nick Cammarata 提出“神经网络本来就很干净”,认为许多经典多义性案例可被更强的 agent 分析拆解;此外还有 NVIDIA Nemotron 3.5 Super VL、微软 MAI-Base-2、Gemini 4 Argon 评测,以及 SPACE 沙箱、TPUv7 推理基准等系统与安全研究。

    AI 选稿理由Muse Spark Open 是目前美国最强的开源权重模型,1M 上下文加多模态输入可用于编码与长程 agent,权重可在 4×Blackwell Ultra 或双 Mac Studio 上本地部署;Goodfire 的“已干净”论则给可解释性研究提供了可复用的 agent 分析路径。

  4. Hugging Face Blog79

    NVIDIA发布印度语言预训练数据集:2.8万亿tokens与开放数据生成管道

    AI 导读NVIDIA与IIT Madras合作发布Nemotron-pretraining-Indic-v1数据集,包含约2.8万亿tokens,覆盖22种印度语言,并开放GPU加速的数据生成管道。该数据集结合了原生脚本和罗马化文本,通过四阶段翻译、质量评估和修复流程生成,已在Nemotron 3.5 Super VL模型上验证效果,在多个印度语言知识推理基准测试中取得4.98-9.82百分点的提升。

    AI 选稿理由原文提供了2.8万亿token的印度语言数据集规模和开放生成管道,读者可据此评估其对多语言AI模型开发的实际价值。

  5. Hugging Face · 每日论文

    Muse Glimmer 30B:面向消费级硬件的端侧Agent模型

    AI 导读Hugging Face每日论文介绍Muse Glimmer,一个带感知编码器的开源300亿参数因果语言模型,面向消费级硬件上的自主Agent任务。模型将多步推理、可靠工具调用与失败恢复整合在单一模型中,本地运行无需云端基础设施;接受文本与图像输入、输出文本,使用超百种语言数据训练,量化至约4-bit精度以支持单GPU高效推理。作者称其在同量级模型(Gemma4-31B、Qwen3.6-27B)的工具使用、多步规划与Agent任务完成基准上达到SOTA,以Apache 2.0许可发布。

    AI 选稿理由发布了一个Apache 2.0开源的30B端侧Agent模型,将多步推理、工具调用与失败恢复整合进单一模型,在消费级单GPU上以约4-bit量化本地运行,并在同量级Agent基准上报告超越Gemma4-31B与Qwen3.6-27B的结果。

10月16日周五
  1. Hugging Face · 每日论文

    MOSS-Image 技术报告:5B 开源文生图模型,长文本渲染覆盖率达 96.3%

    AI 导读MOSS-Image 是一个开源生成系统,从零预训练 5B 单流扩散 Transformer(DiT),支持中英双语长文本渲染与精确布局控制;同时提出意图感知的 Agent 式提示增强模块,将用户请求转为内容与布局规格。作者还发布 LongLongTextBench 与 RealLayoutArena 两个评测基准:MOSS-Image 在 LLTB 上开源模型第一,平均文本覆盖率 96.3%;在 RLA 端到端系统对比中排第二,其骨干模型在使用统一增强提示的生成器对比中排第一。团队表示将公开模型、训练配方与评测框架。

    AI 选稿理由开源权重文生图模型在密集文字和复杂版式上长期落后于闭源系统,该工作给出了可复现的 5B 预训练配方和两个长文本/布局评测基准,96.3% 的文本覆盖率让海报、图表类图文生成更接近可直接使用。

  2. TLDR AI · 前沿简报

    TLDR AI 前沿简报 2026-10-16:Muse Spark Open 开源模型、微软 MAI-Base-2 预训练栈与开放权重占比

    AI 导读本期头条包括:Muse Spark Open 为 816B 参数(激活 42B)、100 万 token 上下文的多模态开放权重模型,面向编码与长周期 Agent 任务,可在两台 Apple M5 Ultra Mac Studio 上用 MLX 本地运行;微软详解 2.8T 参数 MoE 模型 MAI-Base-2 的训练栈,称其在留出预训练评测中超过所有开放权重模型,并计划通过 Foundry 提供企业服务;Liquid AI 发布 d1-ultra 多模态决策模型,定价每百万输入 token 0.042 美元。另有多篇深度分析、Nvidia Nemotron 3.5 Super VL、Krea 3、FLUX 3 Image Klein 等工程与模型进展,以及开放权重模型已占网关超七成 token 和近四分之一花费的统计数据。

    AI 选稿理由Muse Spark Open、微软 MAI-Base-2 训练栈、Liquid d1-ultra 与 Nvidia Nemotron 3.5 Super VL 等集中发布,覆盖长上下文 Agent、企业级前沿模型与低成本决策模型,为开发者和企业提供新的开放权重与 API 选项。

  3. Hugging Face · 每日论文

    LILIE:用语言信息损失改进视觉生成,JiT 模型 gFD 降低 14 点

    AI 导读论文提出 LILIE(语言信息无损图像编码器),一种可逆图像变换,通过归一化流 Transformer 与视觉-语言模型联合训练,使 VLM 能从加噪特征中恢复描述文本。研究者用 LILIE 损失训练 JiT 模型,在 GPIC 数据集上相比纯像素损失基线将 gFD 从 66.84 降至 53.01。代码、编码器与生成模型已开源。

    AI 选稿理由提出语言信息监督的可逆图像编码器 LILIE,在 GPIC 数据集上将 JiT 模型 gFD 从 66.84 降至 53.01,相比像素损失基线降低 14 点,并开源代码与模型。

10月15日周四
  1. NVIDIA Blog77

    NVIDIA扩展Nemotron家族:发布最高效率的Super VL和Bolt模型

    AI 导读NVIDIA发布Nemotron 3.5 Super VL和两个新的边缘模型Bolt 74B-A9B 24GB和Bolt E4B 4GB,覆盖从数据中心到桌面设备的全范围智能体部署。Super VL在多模态智能体任务上提供领先准确率,参数量约为最大推理模型的五分之一,而Bolt系列则针对边缘设备优化。

    AI 选稿理由原文给出了不同规模智能体模型的性能特点和部署场景,读者可以据此选择适合自己需求的模型。

  2. Hugging Face · 每日论文

    DuET:用双编码器 Transformer 把钢琴演奏转录为乐谱

    AI 导读研究提出 DuET 双编码器 Transformer,把音符级演奏 MIDI 转乐谱(PM2S)转录与帧级节拍、强拍跟踪联合学习,并用双向交叉注意力连接两个编码器、自回归解码器交替预测乐谱属性;同时引入 TimeRoPE 和 TPRoPE 编码相对时间与音高关系。在 ASAP 与自建 Gangqinpu 数据集上,MUSTER 平均误差分别从 11.30% 降至 11.22%、从 6.56% 降至 3.64%,代码、权重与演示已开源。

    AI 选稿理由把节拍帧级信息引入音符级转谱,缓解无音符起音处节拍缺失的问题,改善时值与记谱时长,代码权重开源可供音乐转录研究直接复用。

  3. TLDR AI · 前沿简报

    TLDR AI 2026-10-15:Grok Voice 3.0 发布、Google 自改进框架 Harness² 与路由器成 AI 新原语

    AI 导读本期主线有三:xAI 发布语音到语音模型 Grok Voice 3.0,延迟低于 1 秒并改善客服表现;Google Research 开源 Harness²,让智能体在不改模型权重的前提下迭代改进提示词、工具、记忆与编排,其 Deep Review 系统可对复杂技术文档做严格技术核查;观点部分讨论路由器成为 AI 栈新原语、开源专才模型与前沿系统在路由后共存。此外 Anthropic 为 Claude 托管智能体与 SDK 加入 OpenTelemetry 追踪,vLLM 推出基于推送的 KV 传输优化 TTFT/TPOT,Netflix 分享大规模 GPU 训练容错实践,Ling-3.1-flash 以 5600 亿总参数、250 亿激活参数和百万 token 上下文开源。

    AI 选稿理由Harness² 让智能体通过改进外部框架而非重训权重持续自我提升,并跨任务迁移经验,为智能体工程提供了可复用的自改进路径;Deep Review 可用于论文与技术文档的自动核查,Grok Voice 3.0 的亚秒级语音交互则降低了实时客服等场景的落地门槛。

10月14日周三
  1. Latent Space

    AINews:Gemini 4 Argon 全面上线,AI Engineer NYC 与 Vals AI 评测同台

    AI 导读谷歌 Gemini 4 Argon 正式 GA,覆盖编码、知识工作与企业工作流,API 入门价每百万输入/输出 2/10 美元,11 月 30 日后翻倍;Cursor 默认 52.8% CursorBench,Cognition 报告 FrontierCode 1.1 达 60.5%。AI Engineer NYC 吸引约 2 万人,Anthropic、Vals AI、Coatue 分别分享金融服务栈、模型基准原则与新闻转投资决策。Meta 发布 Muse Wonder,主打 Active Focus 与 Active Memory,但订阅限额与部署问题引发早期争议;Fish Audio 开源 35B MoE 语音模型 Drama 3,Drama 3 Preview 以 93.2% 领跑发音鲁棒性。Anthropic 披露日合并量从 5 月 2500 增至 9 月 3 万并弃用 Git;NVIDIA 开源 Run:ai。

    AI 选稿理由Gemini 4 Argon 是本周头号前沿模型发布,其入门价仅为 GPT-6 Astra 约六成、幻觉率 15% 为高分区最低,开发者可直接通过 Cursor、Copilot 与 Gemini API 用它做编码、文档与智能体任务,成本与能力窗口值得立即评估。

  2. TLDR AI · 前沿简报

    TLDR AI 2026-10-14:Gemini 4 Argon 上云、Anthropic 多智能体工作流、NVIDIA Run:ai 开源

    AI 导读本期头条包括:OpenAI 因行政会议室发现隐藏录音设备而报警,一名员工被解雇并逮捕;Google 将 Gemini 4 Argon 作为前沿模型上线 Google Cloud,面向软件开发、金融、法律与网络安全等长上下文多步任务。深度分析讨论 AI 意识争论,以及 Anthropic 动态工作流如何让 Claude 编写程序协调多个智能体,演示显示细节更丰富但成本远高于单智能体。工程方面,24B 参数、2B 激活的推理模型 LFM2.5-24B-A2B 发布并在 Hugging Face 提供,NVIDIA 将 Run:ai 平台整体开源,Physical Intelligence 通过 Pi API 开放机器人基础模型微调与推理,OpenCode 2.0 更新。其他消息包括 Character.ai 申请 Chapter 11 破产、Ramp 推出 AI 工作空间 Glass、GPT 6.1 Sol 默认上下文窗口提升至 500k。

    AI 选稿理由Gemini 4 Argon 作为企业级前沿模型上线 Google Cloud,NVIDIA Run:ai 整体开源为平台团队提供 GPU 利用率与共享 AI 基础设施优化工具,Physical Intelligence 开放 Pi API 让机器人基础模型微调与推理可直接托管调用。

10月12日周一
  1. Import AI

    Import AI 476:科研创造力、自我改进与太空 AI

    AI 导读本期介绍 TasteVal 对 AI 科研能力的评测、HSS 视觉推理基准,以及 Reflection 和 Mistral 的模型进展;作者进一步讨论科研自动化、政府跨实验室训练与 AI 太空工业化的可能性。

    AI 选稿理由把模型成绩、训练成本与科研自动化联系起来,适合追踪下一阶段能力变化;自我改进与太空部分提供作者的长期视角。

10月6日周二
  1. AWS Machine Learning Blog62

    GLM 5.3 上线 Amazon Bedrock,753B MoE 模型面向编码与长程智能体任务

    AI 导读智谱(Z.ai)的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码与长程智能体任务,可通过全托管 API 调用,支持跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。

    AI 选稿理由原文给出 GLM 5.3 在 Bedrock 上的接入方式与提示词缓存配置,可据此评估自建推理与托管调用的取舍。