AWS发布自适应智能代理框架AAIF,结合本地SLM与云端Bedrock降低成本
AWS推出自适应智能代理框架(AAIF),使用Strands Agents构建,通过本地小语言模型(SLM)处理常规任务,复杂请求路由至Amazon Bedrock。该框架采用三层架构:智能编排层使用llama3.2:1b模型决策,本地处理层通过Ollama运行设备遥测和图像分析,云端处理层执行复杂模式分析。方案支持边缘设备、全云和混合部署,可降低约80%的API调用成本。
外观
AWS推出自适应智能代理框架(AAIF),使用Strands Agents构建,通过本地小语言模型(SLM)处理常规任务,复杂请求路由至Amazon Bedrock。该框架采用三层架构:智能编排层使用llama3.2:1b模型决策,本地处理层通过Ollama运行设备遥测和图像分析,云端处理层执行复杂模式分析。方案支持边缘设备、全云和混合部署,可降低约80%的API调用成本。
OpenAI与分销合作伙伴合作,坚持一致的安全保障,支持负责任的访问,并明确使用政策中的期望。文章介绍了OpenAI如何通过合作伙伴网络确保AI服务的安全性和可访问性。
AWS发布技术文章,介绍如何在AWS Trainium上使用torchtitan训练Qwen3模型。文章提供了三种配置方法:使用Transformers v5作为建模后端、使用torchtitan原生Qwen3实现、以及添加Neuron Kernel Interface混合专家内核。所有方法均可在单台trn2.48xlarge实例上运行,支持预训练和微调,并展示了如何加载和保存Hugging Face检查点。
AWS 发布 U.S. Hunger 案例:该非营利组织将 SQL Server 数据每晚 2 点刷新到 Quick 的 SPICE 引擎,17 名同事获得访问权限。CEO 用 Quick Spaces 共享 KPI 定义、财务文档和审计材料,结合调查数据分析食品安全状况;组织计划 2026 年第四季度构建企业 KPI 框架,并通过 Boomi 把数据汇入 Redshift。
英伟达发布预训练关系基础模型Kumo Relational,直接在企业关系数据库上做预测:给定预测查询,单次前向传播读取至多1万条历史样本作上下文,输出流失、需求、欺诈等结果,无需任务训练、特征工程或展平表格。在15个数据库的41项任务上,它超过监督式关系深度学习与专家特征的梯度提升树;SAP SALT上MRR超AutoGluon集成8%,微调后领先16%;RelArena-α上精度接近最高分条目但推理快约430倍。模型支持500B+行数据库,代码以Apache 2.0开源、权重按OpenMDW 1.1许可发布,可经structured-data-models库或NVIDIA NIM调用。
Pollen Robotics与Hugging Face推出平价开源双足机器人Microduck,本篇教程演示用NVIDIA Isaac Lab和Newton在GPU并行仿真中训练行走策略:61维观测、14维关节输出,16卡配置在崎岖地形下最高约125万步/秒;通过域随机化和 backlash 建模覆盖伺服摩擦与延迟,评估后自动导出ONNX,再经robotctl加载到真机,也可上传Hugging Face Hub或在Microduck Arena比拼。
Dharma AI 在基于 Qwen3-4B 的葡萄牙语作文评分器上,不换基座模型、数据与训练配方,仅用 VocabX 重建词表。方法按生成token成本而非出现频率选择子词与整段宏token,并控制输出层从约15.2万行降至约6.5万行。同一批500次请求上,平均回复从350token降至101token,实测推理成本降77.0%,bench分数从0.703升至0.810。论文仍在评审中,数据可能变化。
OpenAI 发布 AT&T 法务团队使用案例:AT&T 正与 OpenAI 合作,让其 LegalEdge 团队更便捷地获取法律知识,并重新设计案件受理流程,把法律判断能力扩展到更大范围。原文未披露所用模型、部署规模或量化效果。
Google Research在《JAMA Network Open》发表前瞻性多中心研究:让未受过超声培训的操作者用低成本便携探头按标准路径盲扫腹部,由AI估算孕龄。385名16–36周孕妇中,AI平均绝对误差4.18天,专家超声测量为4.48天;芝加哥适配后为4.10天,内罗毕零本地优化为4.27天。仅用芝加哥120人约6%训练集的数据微调即适配新探头,并将预测范围扩至36周以上。
Hugging Face 博客发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 Neuron Explorer 分析推理性能。文章以 RMSNorm 为例对比三种实现:朴素 PyTorch 算子约 2,355 µs,torch.rms_norm 约 403 µs,torch.compile 约 376 µs,后两者融合为单内核,设备时间约为朴素实现的六分之一。内容包括 NeuronConfig 配置、按 self_privateuse1_time_total 读表、用依赖链追踪一次算子从框架调度到硬件执行。
教程从零介绍如何用 torch.profiler 配合 Neuron 后端抓取干净的性能轨迹,通过 key_averages() 表定位占用 Neuron 设备时间的 ATen 算子,并用 Neuron Explorer 追踪一次算子从框架分发、运行时调度到 NeuronCore 硬件执行的全过程。以 RMSNorm 为例对比三种实现:朴素逐算子约 2355 微秒、torch.rms_norm 约 403 微秒、torch.compile 约 376 微秒,后两者融合为单次内核调度,设备时间约为前者的六分之一。
微软研究院Xinzhi Zhang与合作者证明了1995年提出的Kannan-Lovász-Simonovits(KLS)猜想:对对数凹分布,最佳平坦切割与任意形状切割的差距总被一个与维度无关的常数界定。研究者用AI智能体探索了约100条候选路径,由人筛选方向,最终通过递归细化与误差有界性论证完成证明;同日另有两组独立证明与Lean 4形式化验证发布。
IBM更新Granite Speech系列三款模型:新发布 granite-speech-5.0-2b,增强噪声与远场鲁棒性,支持语言ID提示、最多2000词关键词偏置,并在英语短音频开放ASR平均WER上以5.06%排第二;470m-turboctc增加七语种、原生标点大小写,RTFx升至19870;4.1-2b-plus改进说话人归属、时间戳、长语音与关键词偏置。均以Apache 2.0发布。
OpenAI宣布ChatGPT广告业务新增26个国家,并称已有超过10万家广告主使用该平台。广告主可在用户探索、比较和决定购买时触达他们,覆盖范围从本地商家到全球品牌。
英伟达推出Kumo Forecast(原NV-Tesseract Forecasting)多变量时序预测模型,基于MOMENT-1-large约3.4亿参数编码器加可训练预测头。新增DARR模式,用最近邻从历史数据检索相似模式并与直接预测融合;同时提供模型无关的可解释框架,按预测步长输出滞后与特征归因。代码和权重以Apache 2.0开放,支持DataFrame式API及256至2048长度输入。
RFD4-Proteina是英伟达与华盛顿大学蛋白设计研究所共同开发的BioNeMo开放模型,把蛋白序列与全原子结构生成合到一个模型里,可在含小分子、核酸、糖链、金属离子等分子上下文中生成设计。在24个蛋白结合靶点的基准上,high thinking设置每GPU小时产出76.40个满足计算筛选标准的结构相异设计,次强方法Proteina-Complexa为13.24。10月21日至11月4日,NVIDIA赞助专用Space免费使用(RTX PRO 6000 GPU),之后ZeroGPU共享版仍免费;输入与输出均经SecureDNA生物安全筛查。
Mistral AI宣布与NVIDIA合作,基于NVIDIA加速计算开发新一代AI原生工程工作流。目前仅为合作方向声明,未披露具体产品、时间表或性能数据。
OpenAI与Google Cloud宣布,OpenAI前沿模型及Codex工作流将接入Gemini的Model Garden,并通过Google Cloud Marketplace提供。原文未披露具体模型版本、上线时间与价格。
Hugging Face 与 NVIDIA 推出 SimReady Central Library,在 Hugging Face 上免费、无门槛提供 2000 多个仿真就绪(SimReady)OpenUSD 资产,涵盖机械臂、夹爪、仓储货架和冷却设备等。资产附带碰撞几何、质量、摩擦和关节等仿真属性。厂商可按 SimReady 配置验证并提交自有 CAD 模型;开发者可用自然语言搜索资产,结合 GPT-6 Astra 等模型组装机械臂抓取或 AI 工厂布局场景。
NVIDIA在GTC Berlin展示了完整的本地AI硬件产品线:RTX Spark为Windows PC提供个人代理支持;DGX Spark支持开发者构建和扩展应用;DGX Station为企业团队运行前沿工作负载提供支持。新增功能包括Underdog桌面代理应用、DGX Spark 64GB版本、NVIDIA Sync支持八台DGX Spark集群、DGX Station Windows版本将于12月发布,以及Recursive Flint本地编码模型等。