跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
中文动态

#部署/工程.

正在确认更新状态可见页面每分钟只读检查
10月22日周四
  1. AWS Machine Learning Blog

    AWS Trainium支持torchtitan训练Qwen3模型的三种方法

    AI 导读AWS发布技术文章,介绍如何在AWS Trainium上使用torchtitan训练Qwen3模型。文章提供了三种配置方法:使用Transformers v5作为建模后端、使用torchtitan原生Qwen3实现、以及添加Neuron Kernel Interface混合专家内核。所有方法均可在单台trn2.48xlarge实例上运行,支持预训练和微调,并展示了如何加载和保存Hugging Face检查点。

    AI 选稿理由提供了在AWS Trainium上训练Qwen3模型的具体技术实现方法,包括三种不同配置的代码示例和性能验证,适用于分布式AI训练和推理工作流的开发者。

  2. Hugging Face Blog

    NVIDIA Kumo Relational关系基础模型免训练超越监督学习,41项任务登顶

    AI 导读英伟达发布预训练关系基础模型Kumo Relational,直接在企业关系数据库上做预测:给定预测查询,单次前向传播读取至多1万条历史样本作上下文,输出流失、需求、欺诈等结果,无需任务训练、特征工程或展平表格。在15个数据库的41项任务上,它超过监督式关系深度学习与专家特征的梯度提升树;SAP SALT上MRR超AutoGluon集成8%,微调后领先16%;RelArena-α上精度接近最高分条目但推理快约430倍。模型支持500B+行数据库,代码以Apache 2.0开源、权重按OpenMDW 1.1许可发布,可经structured-data-models库或NVIDIA NIM调用。

    AI 选稿理由首个在常见关系基准上以少样本方式胜过监督学习的关系基础模型,覆盖41项任务与500B+行规模,并给出开源库与NIM两种落地方式。

  3. Hugging Face Blog

    用Isaac Lab 3.0训练Microduck双足机器人:从仿真到真机部署

    AI 导读Pollen Robotics与Hugging Face推出平价开源双足机器人Microduck,本篇教程演示用NVIDIA Isaac Lab和Newton在GPU并行仿真中训练行走策略:61维观测、14维关节输出,16卡配置在崎岖地形下最高约125万步/秒;通过域随机化和 backlash 建模覆盖伺服摩擦与延迟,评估后自动导出ONNX,再经robotctl加载到真机,也可上传Hugging Face Hub或在Microduck Arena比拼。

  4. Hugging Face Blog

    VocabX:按成本重建词表,葡萄牙语作文评分器推理成本降77%

    AI 导读Dharma AI 在基于 Qwen3-4B 的葡萄牙语作文评分器上,不换基座模型、数据与训练配方,仅用 VocabX 重建词表。方法按生成token成本而非出现频率选择子词与整段宏token,并控制输出层从约15.2万行降至约6.5万行。同一批500次请求上,平均回复从350token降至101token,实测推理成本降77.0%,bench分数从0.703升至0.810。论文仍在评审中,数据可能变化。

    AI 选稿理由给出可复用的词表级推理优化方法及生产评分器的实测成本与质量结果,实验条件明确。

  5. Hugging Face Blog

    TorchNeuron 剖析(一):在 AWS Trainium 上做系统级性能分析

    AI 导读教程从零介绍如何用 torch.profiler 配合 Neuron 后端抓取干净的性能轨迹,通过 key_averages() 表定位占用 Neuron 设备时间的 ATen 算子,并用 Neuron Explorer 追踪一次算子从框架分发、运行时调度到 NeuronCore 硬件执行的全过程。以 RMSNorm 为例对比三种实现:朴素逐算子约 2355 微秒、torch.rms_norm 约 403 微秒、torch.compile 约 376 微秒,后两者融合为单次内核调度,设备时间约为前者的六分之一。

  6. Hugging Face Blog

    TorchNeuron 性能分析(一):在 AWS Trainium 上做系统级性能分析

    AI 导读Hugging Face 博客发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 Neuron Explorer 分析推理性能。文章以 RMSNorm 为例对比三种实现:朴素 PyTorch 算子约 2,355 µs,torch.rms_norm 约 403 µs,torch.compile 约 376 µs,后两者融合为单内核,设备时间约为朴素实现的六分之一。内容包括 NeuronConfig 配置、按 self_privateuse1_time_total 读表、用依赖链追踪一次算子从框架调度到硬件执行。

    AI 选稿理由提供可复用的 Trainium 推理性能分析方法,并给出 RMSNorm 三种实现的设备耗时对比,适用于在 Neuron 后端定位算子级热点。

10月21日周三
  1. Hugging Face Blog

    RFD4-Proteina:英伟达与华盛顿大学合作的蛋白设计开源模型上线Hugging Face Spaces

    AI 导读RFD4-Proteina是英伟达与华盛顿大学蛋白设计研究所共同开发的BioNeMo开放模型,把蛋白序列与全原子结构生成合到一个模型里,可在含小分子、核酸、糖链、金属离子等分子上下文中生成设计。在24个蛋白结合靶点的基准上,high thinking设置每GPU小时产出76.40个满足计算筛选标准的结构相异设计,次强方法Proteina-Complexa为13.24。10月21日至11月4日,NVIDIA赞助专用Space免费使用(RTX PRO 6000 GPU),之后ZeroGPU共享版仍免费;输入与输出均经SecureDNA生物安全筛查。

    AI 选稿理由新增了thinking分级设置、24靶点基准上76.40对13.24的设计效率数据,以及10月21日至11月4日专用Space免费窗口和SecureDNA筛查等具体可用信息。

  2. NVIDIA Blog

    NVIDIA cuDSS 正式版发布:把工程与科学仿真的稀疏求解交给 GPU

    AI 导读NVIDIA 宣布 CUDA-X 库 cuDSS 正式可用,用 GPU 加速大型稀疏方程组求解这一仿真中反复出现、常限制设计探索数量的步骤。应用材料在 Ginestra 上称相比纯 CPU 最高加速 10 倍;ZEISS SMT 用 COMSOL 跑 EUV 光刻等离子体基准获 4 倍加速,完整仿真耗时 6 天 14 小时;Cadence、Dassault Systèmes、Siemens、Synopsys 也已集成,Dassault 称 Abaqus 求解器有 8-10 倍加速。cuDSS 支持 C、C++、Python、Fortran 接口,可从工作站扩展至集群。

    AI 选稿理由cuDSS 从库走向正式版并给出多家仿真软件的实际集成与加速数据,可供工程仿真和 GPU 加速开发者参考。

  3. NVIDIA Blog

    英伟达面向欧洲工业发布Factory Operations Blueprint及CUDA-X、Omniverse更新

    AI 导读英伟达在GTC Berlin展示欧洲工业客户使用CUDA-X、Omniverse、Cosmos和Nemotron推进工程与制造。Factory Operations Blueprint(FOX)已在GitHub开放早期访问,用于构建工厂管理及视觉检测、根因分析等Agent;西门子将其接入Intelligence Center X,估计可节省20%成本,并在埃尔朗根工厂将检测校准时间缩短40%。cuDSS转为正式可用,imec的S-Litho基准最高提速40倍,英飞凌3D击穿仿真提速12倍。奥迪、舍弗勒、大众透明工厂等用Omniverse与Isaac做数字孪生和机器人仿真。

    AI 选稿理由FOX蓝图开放早期访问并给出西门子20%成本节省、40%校准提速等实际企业结果,同时cuDSS正式可用,为工业Agent与仿真提供可复用起点。

  4. NVIDIA Blog

    Google Cloud 与 NVIDIA 公布 Vera Rubin 基础设施全面可用

    AI 导读Google Cloud 宣布基于 Vera Rubin NVL72 的 A5X 实例下月全面可用,并计划扩展至欧洲。单实例整合 Vera CPU、Rubin GPU、ConnectX-9 SuperNIC、Virgo 网络与第四代液冷,面向智能体推理和大规模强化学习。Google Cloud 计划在多地部署最多 96 万颗 Rubin GPU。AlphaGo 作者 David Silver 创办的 Ineffable Intelligence 为首个客户,WPP 在该实例上用 Nemotron 与 OpenShell 展示创意智能体工作流,称原需多节点的任务可在单实例运行。

    AI 选稿理由新增事实是 A5X 实例下月全面可用、最多 96 万颗 Rubin GPU 的部署计划,以及首个客户和 WPP 单实例运行结果;这是云上部署进展,适用范围限于 Google Cloud 客户。

  5. NVIDIA Blog

    NVIDIA在欧洲推出本地AI硬件产品线:RTX Spark、DGX Spark和DGX Station

    AI 导读NVIDIA在GTC Berlin展示了完整的本地AI硬件产品线:RTX Spark为Windows PC提供个人代理支持;DGX Spark支持开发者构建和扩展应用;DGX Station为企业团队运行前沿工作负载提供支持。新增功能包括Underdog桌面代理应用、DGX Spark 64GB版本、NVIDIA Sync支持八台DGX Spark集群、DGX Station Windows版本将于12月发布,以及Recursive Flint本地编码模型等。

    AI 选稿理由NVIDIA在欧洲推出完整的本地AI硬件产品线,包括RTX Spark、DGX Spark和DGX Station,并新增多项功能和模型支持,为开发者和企业提供了本地AI解决方案。

  6. Hugging Face Blog

    SimReady Central 上线 Hugging Face:2000 多个仿真就绪 OpenUSD 资产开放取用

    AI 导读Hugging Face 与 NVIDIA 推出 SimReady Central Library,在 Hugging Face 上免费、无门槛提供 2000 多个仿真就绪(SimReady)OpenUSD 资产,涵盖机械臂、夹爪、仓储货架和冷却设备等。资产附带碰撞几何、质量、摩擦和关节等仿真属性。厂商可按 SimReady 配置验证并提交自有 CAD 模型;开发者可用自然语言搜索资产,结合 GPT-6 Astra 等模型组装机械臂抓取或 AI 工厂布局场景。

    AI 选稿理由新增可自由取用的 2000 多个仿真就绪 OpenUSD 资产库及厂商提交通道,直接降低机器人与 AI 工厂仿真的资产准备成本,适用于物理 AI 训练环境搭建。

  7. NVIDIA Blog

    NVIDIA Vera CPU 获 Nebius、Nscale 等欧洲云商采用,瞄准 Agent 推理

    AI 导读NVIDIA 称,欧洲 AI 云厂商 Nebius、Nscale 与 Verda 将采用其 Vera CPU 构建本地基础设施,用于 Agent 的取数、执行代码与结果评估等 CPU 密集环节。Bull、Dell、HPE、联想与 Supermicro 将推出基于 Vera 的服务器;ClickHouse、SAP、Elastic 等数据公司称早期测试中分析、ETL 与语义搜索负载表现良好;Atlassian、Nous Research 及 Modal、Vercel 等 Agent 沙盒厂商也计划或已测试采用 Vera。

  8. NVIDIA Blog

    英伟达扩展机密计算,新增机密裸金属部署选项

    AI 导读英伟达为机密计算新增“机密裸金属”部署模式,让前沿模型构建者能在第三方专用基础设施上运行敏感训练与推理负载,同时保住模型和数据的控制权。该模式与面向Kubernetes的机密容器、面向虚拟化环境的机密虚拟机并列,并新增传输中数据保护、平台完整性度量与硬件级访问限制。Cohere计划将其接入Model Vault,Google Cloud将支持基于GB300 NVL72的A4X Max实例;Grace Blackwell NVL72、HGX Rubin NVL8与DGX Rubin NVL8也在支持范围内。

    AI 选稿理由新增机密裸金属这一具体部署选项,并明确Cohere、Google Cloud的接入计划及Grace Blackwell/Rubin平台支持范围,为需要硬件隔离的模型训练与推理提供可落地的新基础设施选择。

  9. NVIDIA Blog

    英伟达欧洲云伙伴扩容:主权AI、开放模型与OpenShell代理安全架构

    AI 导读英伟达梳理欧洲、北欧、非洲和中亚云伙伴的区域算力扩展:Nscale在GB300 NVL72测试中用DSX MaxLPS在同等供电下多跑37%的GPU、聚合推理吞吐提升近50%;Nebius采用Groq 3 LPX并推出机器人云与三套零售Agent蓝图;Baseten与CodeRabbit用Nemotron 3.5 Lightning把代码审查路由一致率从75.8%提到80.7%、推理成本降50%;Mistral以3800块Grace Blackwell训练Mistral Large 4并计划2027年交付Vera Rubin。OpenShell参考架构由Vera CPU、BlueField-4和Sentry提供代理权限边界,多家云商支持。

    AI 选稿理由汇总了DSX MaxLPS在GB300上的能效数据、CodeRabbit微调后的准确率与成本变化,以及OpenShell参考架构的具体分工与首批支持云商,可作为欧洲区域算力与代理安全部署的进展参考。

  10. NVIDIA Blog

    NVIDIA扩展Agent Toolkit,新增Agent Knowledge Foundation等企业Agent组件

    AI 导读NVIDIA扩展开源Agent Toolkit,新增Agent Knowledge Foundation,通过cuDF、cuGraph、cuML、cuOpt、cuVS及Auto-Ontology库把企业数据映射为客户、产品等业务概念;配套发布Nemotron Retriever与Kumo Structured系列开源模型、OpenShell安全运行时和NemoClaw蓝图。Palantir、Databricks、Snowflake、SAP、ServiceNow、Zoom及AWS、IBM、Oracle等已在其上构建或接入。

    AI 选稿理由这是一套面向企业Agent的数据 grounding 开源组件,新增知识基础、检索模型与安全运行时,并列出早期采用者,属于可复用的Agent工程方法。

  11. NVIDIA Blog

    黄仁勋GTC Berlin 2026主题演讲:发布DSX POD、OpenShell Agent安全参考架构与Agile ONE SN人形机器人

    AI 导读黄仁勋在GTC Berlin主题演讲中发布DSX POD——由伙伴在模块化容器内集成验证的Vera Rubin AI工厂参考设计,现场部署可从6个月缩至14天;DSX AI工厂平台称冷却用水最多减少100%、同等算力功耗降低30%。他提出Agent由模型、harness、sandbox、知识、工具五部分组成,并发布基于开源OpenShell运行时的Safe AI Agents参考架构,按次动态调整权限。此外还公布Agent Knowledge Foundation、Agile ONE SN参考人形(31自由度、明年可用),以及Hyperion平台新增沃尔沃、捷豹路虎、奔驰等车企。

    AI 选稿理由一次演讲新增多个可指认发布:DSX POD把现场部署缩到14天、OpenShell Agent安全参考架构、Agile ONE SN人形与Hyperion新增车企,覆盖算力设施、Agent安全与机器人三条线。

  12. Latent Space

    AINews:DeepSeek开源DeepInfer推理框架,MiniMax发布M3.1 Flash模型

    AI 导读DeepSeek开源DeepInfer推理框架,支持英伟达GPU与昇腾NPU,单集群每天处理155万亿Token,谷电时段每GPU小时收入38美元;MiniMax发布M3.1 Flash模型,总参数4280亿,支持100万Token上下文,72小时内处理超100万亿Token,推理速度提升近3倍;Anthropic让Claude生成数学证明验证代码正确性,为123个开源库生成约1.8亿行证明代码;腾讯推出AI互动知识产品'懂了鸭',可将文字、知识点转化为动态课件、3D演示等内容。

    AI 选稿理由DeepSeek开源高性能推理框架DeepInfer,提供具体生产数据和经济效益;MiniMax发布大规模参数模型,展示实际部署能力;Anthropic和腾讯分别推出创新AI应用,提供可复用方法。

  13. Hugging Face · 每日论文

    Specter:用量化多步投机卸载加速MoE推理

    AI 导读Specter将量化、投机解码与专家卸载结合,用轻量量化草稿模型在设备上保留高保真的专家激活模式,从而提前预测并调度后续专家数据的搬移。在单请求推理下,相比当前最优系统,TPOT平均快1.50倍、最高1.88倍,使显存受限的单卡MoE推理更可行。代码已开源。

    AI 选稿理由给出量化草稿模型驱动多步专家预取的具体系统设计,并在单请求场景测得TPOT平均1.50倍、最高1.88倍加速,适用于受PCIe卸载瓶颈限制的MoE推理。

  14. Hugging Face · 每日论文

    Matrix-Game 4.0:用视频模型实时生成可玩游戏世界,RTX5090上480p 60FPS

    AI 导读Matrix-Game 4.0将游戏执行与画面生成分离:轻量游戏引擎维护世界状态并执行交互规则,多模态编码Agent把玩家想法转为游戏代码和动态场景描述,基于自回归视频模型的渲染器再把低多边形代理画面转为高保真视觉。单张RTX5090实现480p、60FPS,按键到显示延迟112ms;单步生成稳态83FPS,峰值显存18.2GiB,RTX5080和RTX5070Ti上分别为67FPS和58FPS。代码、模型权重和低多边形游戏资产已开源。

    AI 选稿理由给出可玩游戏世界的执行—渲染分离架构,并在单卡上实测延迟、帧率与显存,同时开源代码、权重和资产,为实时视频生成与游戏交互结合提供可复现基线。

  15. Hugging Face · 每日论文

    Lafa:8B连续流语言模型,相同质量下吞吐量达AR的2.54倍

    AI 导读研究者提出Lafa,将连续流语言模型扩展到8B参数,采用块内双向异步流加前缀因果注意力的设计,可通过改造预训练自回归模型高效训练,并用前缀缓存和块级并行解码加速推理。在0.5B、7B、8B规模上,均以少于300亿token完成训练,指令跟随、推理和编程质量与AR相当或更好,还能蒸馏成流映射,实现一步或少步生成。利用流训练的多token预测效应做自推测解码,吞吐量达AR的2.54倍。

    AI 选稿理由给出8B连续流语言模型的完整训练与推理方案,并在多token预测和自推测解码下报告了2.54倍吞吐的具体结果,属于可复用的生成建模范式进展。

  16. Hugging Face · 每日论文

    RiseHarness:固定模型权重,让终端智能体的运行框架自我进化

    AI 导读研究者提出 RiseHarness 框架,在模型权重不变的前提下迭代改进智能体的 harness。它聚焦同一配置下时成时败的任务,把成功轨迹与运行时监控的内部 harness 跟踪结合分析,再借 Harness Handbook 定位共享机制中的反复问题,检索其他 harness 的实现并适配,经行为检查与重复评估后以有效版本进入下一轮。论文评测了任务成功率与可靠性,并做了消融与未见基准迁移测试。

    AI 选稿理由提出不改变权重的 harness 自改进方法,针对长程终端智能体跨次运行的不稳定,给出可复用的失败分析与跨框架机制迁移流程。

  17. Hugging Face · 每日论文

    SolarRenderer:用两个轻量LoRA让冻结的MiniMax-H3四步生成结构化参考视频

    AI 导读研究提出结构条件视频渲染器SolarRenderer,基于冻结的33B MiniMax-H3主干加两个轻量LoRA,将结构视频直接送入原生参考通道,仅用纯文本描述,无需类型标识。借助四步LoRA与结构引导分布匹配,渲染比50步采样快12.3倍;块因果变体支持实时生成768p视频。模型在13.6万片段对齐语料上训练,在分布内测试集和16种结构表示的泛化基准上均达SOTA,并泛化到姿态骨架、手绘图、点云等11种未见表示。

    AI 选稿理由新增结果:SolarRenderer以冻结MiniMax-H3 33B加两个轻量LoRA实现四步结构条件渲染,速度提升12.3倍并在16种结构表示基准上验证,适用于游戏引擎与编码代理生成视频的研究场景。

  18. Hugging Face · 每日论文

    物理AI中的递归自改进研究

    AI 导读研究探讨了递归自改进(RSI)在物理AI中的应用,分析了如何通过物理经验强化改进机制,并总结了现有研究的评估原则和未来研究方向。研究指出,物理环境中的RSI需要处理部分观察、高成本试验和不可逆后果等挑战,现有研究主要集中在操作领域,支持行为改进、后续学习和程序改进,但尚未完全隔离递归带来的增益。

    AI 选稿理由该研究系统分析了递归自改进在物理AI中的实现路径和挑战,为机器人学习领域提供了评估原则和研究方向。

  19. AWS Machine Learning Blog

    i14用原生PyTorch在AWS Trainium2上训练和部署Laplace 3B线性注意力模型

    AI 导读i14的Laplace 3B模型采用门控线性注意力(GLA)替代softmax注意力,推理时循环状态固定为每条序列29.5 MB,不随上下文增长。AWS团队用TorchNeuron Native将模型移植到Trainium2,保留了GLA设计和Muon优化器。单台trn2.48xlarge训练吞吐约12万token/秒,推理在1280并发序列下达到每秒11544个输出token。文章介绍了模型设计、移植中的三项修改及性能数据。

    AI 选稿理由给出了线性注意力模型在Trainium2上的具体移植方法(GLA核重写、Muon通信优化、反向图展开)及训练/推理吞吐数据,适合关注模型架构与部署工程的读者参考。

  20. Latent Space

    SF Compute构建可编程数据中心,实现GPU算力市场物理交割

    AI 导读SF Compute通过构建云级操作系统,实现GPU算力市场的物理交割,允许用户买卖未来GPU算力并编程控制网络和内存。公司已处理2.45亿美元算力交易,支持InfiniBand网络动态分区,并与数据中心合作提供主权AI算力服务。

    AI 选稿理由新增GPU算力物理交割市场运营细节,包括动态网络分区、算力合约维度和主权AI合作模式。

  21. The Decoder

    DeepSeek 开源其最快最便宜模型 V4.1-Flash 背后的推理框架 DeepInfer

    AI 导读DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。

    AI 选稿理由DeepSeek 开源了支撑 V4.1-Flash 的 DeepInfer 推理框架,基于 vLLM、主打降低算力成本与能耗,为可复用的推理工程方案。

  22. Hugging Face Blog

    NVIDIA Cosmos3-H-Dreams:用生成式仿真还原临床胆囊切除术

    AI 导读NVIDIA 发布 Cosmos3-H-Dreams,基于 160 亿参数 Cosmos3-H-Embodied-Nano,利用 CMR Surgical Versius 平台临床胆囊切除视频与机器人运动学训练。模型采用 28 维动作控制,提供四步与两步蒸馏检查点,搭配 FlashDreams 流式推理,可在单张 RTX PRO 6000 GPU 上实时运行,并支持适配自有数据与控制器。

    AI 选稿理由首次展示基于临床胆囊切除录像训练、支持实时运动学控制的生成式手术仿真器,并开放四步与两步检查点及教师微调、Self-Forcing 蒸馏流程,适用于手术机器人仿真研究。

  23. AWS Machine Learning Blog

    AWS博客:Smartsheet MCP服务器支持AI代理管理项目工作

    AI 导读Smartsheet发布正式可用的模型上下文协议(MCP)服务器,使AI助手能通过标准化协议读取、写入和管理Smartsheet数据。该服务器支持40多种工具,可更新任务状态、创建行和修改项目结构。Amazon Quick和Kiro已集成此服务器,分别面向业务用户和开发者,实现自然语言交互项目管理,无需切换工具。

  24. AWS Machine Learning Blog

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理:SFT 与 GRPO 的取舍

    AI 导读基座 GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 按目标语言推理(英 100%、法/西/意 0%、德 10%)。作者在 SageMaker HyperPod 上用 LoRA 微调,结论是 SFT 完成主要工作,GRPO 只在有能力提升空间时起作用;另用 Qwen2.5-7B 做对照实验验证该规律。

    AI 选稿理由给出了 SFT 与 GRPO 何时各自动手的可复用判断标准和完整训练栈配置,帮助团队针对非英语用户定制开源推理模型。

  25. AWS Machine Learning Blog

    AWS 展示用 Amazon Quick 与 Bedrock AgentCore 构建对话式供应链智能

    AI 导读AWS 博客介绍了一种将供应链决策对话化的方案:Amazon Bedrock AgentCore 作为智能层,通过 MCP 协议将 ERP、监控、采购、合规等系统封装为可组合工具,Amazon Quick 作为零配置界面层。文中以 TechComp 生产中断为例,演示了从发现工具、查询中断、评估影响(75 万美元风险敞口、23 个订单)、获取缓解建议到自动监控的五步流程,所有操作在单一对话线程中完成,每次变更需人工批准。

  26. AWS Machine Learning Blog

    Octave 在 Amazon Bedrock 上构建安全多租户 AI 基础,嵌入 20 亿份文档

    AI 导读Octave 为 14000 多家受监管行业客户的质量管理平台 Reliance 构建了多租户 AI 基础。团队把所有租户的隔离要求作为前提,用 Amazon Bedrock 上的 Cohere Embed v4 完成 20 亿份文档的嵌入,并把向量存储按租户隔离到 OpenSearch Service;执行层通过 Bedrock AgentCore Gateway 和隔离 microVM 调用 Claude,前后两次经过 Bedrock Guardrails 过滤。该基础已将每个用例的部署时间缩短 50%。

    AI 选稿理由文章完整给出了受监管 SaaS 平台在租户数据严格隔离、不可信内容进入和超大规模嵌入三方面的解决办法,包括逐租户向量库、按用户权限执行 Agent 和输入与输出双重过滤,可作为同类多租户 AI 平台的工程参考。

  27. The Decoder

    Mistral AI 发布 Voxtral 3:一套完整的实时语音 Agent 技术栈

    AI 导读Mistral AI 推出面向实时语音代理的 Voxtral 3 模型系列,整合语音转文字、文字转语音和语音代理 SDK,支持 50 多种语言,并能在一段实时对话中调用外部工具。它可部署在自有基础设施上,也可通过欧盟托管 API 运行,便于控制数据。

    AI 选稿理由它为开发者提供可自托管、覆盖 50 多种语言的端到端实时语音代理组件,并在对话中接入工具调用,降低了构建多语言语音 Agent 的集成成本。

  28. AWS Machine Learning Blog

    加拿大用户可通过 Amazon Bedrock 跨区域推理调用 OpenAI GPT-6.1、GPT-6 和 GPT-5.6 模型

    AI 导读AWS 宣布,加拿大中部和西部区域的用户可以通过跨区域推理(CRIS)在 Amazon Bedrock 上访问 OpenAI GPT-6.1 Sol、GPT-6 系列(Astra、Sol、Luna)及 GPT-5.6 系列模型。请求会由源区域路由到美国或全球可用区域处理;这些模型支持 100 万 token 上下文、推理模式、工具调用和提示缓存,并可通过 Responses API、Chat Completions API 和 Converse API 调用。文章还介绍了 IAM 权限、SCP 限制和配额调整方法。

    AI 选稿理由加拿大企业无需自建路由即可在本地区域接入 OpenAI 最新 GPT-6 系列模型,并获得更大的跨区域容量池;这对有北美数据驻留要求的生成式 AI 应用有直接部署价值。

  29. AWS Machine Learning Blog

    AWS发布Agent Registry实现运行时工具发现

    AI 导读AWS推出Agent Registry服务,解决企业系统中大量API导致的工具管理难题。该服务允许代理在运行时通过语义搜索发现相关工具和代理,无需硬编码或重新部署。系统包含注册、发现、实例化和执行四个步骤,支持MCP服务器和A2A代理,已在订单管理场景中验证。

    AI 选稿理由解决了企业系统中大量API导致的工具管理瓶颈,使新工具集成无需代码变更和重新部署,大幅提升开发效率。

  30. Hugging Face Blog

    Hugging Face 推出 TorchTPU:TPU 现已成为 PyTorch 原生支持设备

    AI 导读Hugging Face 发布 TorchTPU,将 TPU 作为 PyTorch 的原生后端,使开发者无需修改代码即可在 TPU 上运行 Transformers、Diffusers 等库。用户只需将模型发送到 'tpu' 设备即可完成部署,支持分布式训练和 torch.compile 优化。TorchTPU 还提供了 Pallas 内核和 Kernels Hub 的 TPU 内核支持,显著提升模型推理速度。

    AI 选稿理由TorchTPU 解决了 PyTorch 用户在 TPU 上部署的复杂性问题,使 TPU 成为与 GPU、CPU 平等的原生设备,大幅简化了 Hugging Face 生态在 TPU 上的使用门槛。

  31. AWS Machine Learning Blog

    Eon基于Amazon Bedrock AgentCore构建多云调查MCP网关

    AI 导读Eon使用Amazon Bedrock AgentCore平台构建多云调查系统,通过单一认证网关替代各工具凭证和本地MCP进程,实现AWS、GCP和Azure三大云工具的统一访问。新工程师配置时间从两天缩短至约两分钟,支持开发人员和自主代理使用相同工具但不同权限。

    AI 选稿理由解决了多云环境下工具集成的凭证管理复杂性和本地MCP服务器维护难题,大幅提升工程师效率并降低运维成本。

  32. AWS Machine Learning Blog

    AWS与Keyfactor合作推出基于X.509 PKI的AI代理身份安全解决方案

    AI 导读AWS与Keyfactor联合发布参考架构,通过X.509公钥基础设施(PKI)为AI代理提供身份验证,解决多代理AI框架中缺乏内置认证标准的问题。该方案使用签名请求信封、用户签名委托断言、作用域令牌和OCSP实时撤销检查四种机制,结合Amazon Bedrock等服务,确保代理访问数据库和API时的身份安全。

    AI 选稿理由解决了AI代理在多代理框架中缺乏身份验证的安全瓶颈,为企业提供了可验证、可撤销的短期凭证解决方案。