跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
中文动态

#端侧.

正在确认更新状态可见页面每分钟只读检查
10月24日周六
  1. Google Research

    Google Research将基础模型引入结核病筛查前线

    AI 导读Google Research与合作伙伴开发AI工具用于结核病筛查,通过胸部X光检测TB,已在六个国家的40家医疗机构部署,筛查时间从数周缩短至45秒内。团队开源了MedGemma多模态模型和MedSigLIP视觉-语言模型,支持本地部署和临床推理,并与印尼卫生部合作开发国家TB筛查方案,还开发了基于咳嗽声的HeAR声学筛查工具。

    AI 选稿理由提供结核病筛查AI工具的实际部署结果和开源模型,适用于全球医疗资源匮乏地区的TB筛查。

10月23日周五
  1. MIT News · AI 与行业突破

    MIT开发X-Hinges软件:3D打印自感知物体实现三轴运动

    AI 导读MIT与中国天津大学研究人员开发X-Hinges软件,可3D打印内置传感器的自感知物体,解决传统方法中传感器信号干扰问题。该软件支持用户自定义设计,嵌入两种不同材料分别用于传感器和电路,实现物体在压缩、上下和横向三个方向的运动感知与响应。研究人员已制作出教学机器人抓取的手套、感应亮度的折纸灯和物体识别系统等设备。

    AI 选稿理由X-Hinges软件解决了3D打印交互物体中传感器信号干扰的关键问题,实现了三轴运动感知,为日常物品赋予物理智能提供了新方法。

  2. AWS Machine Learning Blog

    AWS SageMaker训练会话API:无需管理GPU编写自定义训练循环

    AI 导读AWS推出SageMaker训练会话API,允许开发者编写自定义训练循环,同时由服务管理GPU基础设施。该API提供forward_backward、optim_step和sample等操作,支持监督微调、强化学习等多种训练方法,并按使用量计费。同时发布训练会话食谱库,包含SFT和RL等可运行示例。

    AI 选稿理由提供了一种新的训练范式,让开发者可以专注于算法逻辑而非基础设施管理,同时保持对训练过程的完全控制。

  3. AWS Machine Learning Blog

    AWS SageMaker AI推出训练会话功能,无需管理GPU即可自定义模型

    AI 导读AWS宣布SageMaker AI serverless模型定制新增训练会话功能,允许开发者编写和协调训练循环,包括自定义损失函数或奖励信号,同时由平台处理GPU分配、分布式执行、故障恢复和检查点存储。支持SFT、DPO、RLVR、RLAIF或多轮强化学习等技术,可选择LoRA或全参数微调,并提供训练会话食谱和模型定制代理技能。目前支持gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B和Qwen3.8-27B模型。

    AI 选稿理由AWS SageMaker AI训练会话提供基础设施管理下的自定义训练循环控制,支持多种后训练技术和多轮强化学习,降低模型定制门槛。

  4. AWS Machine Learning Blog

    Amazon Polly升级生成式引擎,新增14种语音支持印地语和芬兰语

    AI 导读Amazon Polly生成式引擎升级后提供更自然、准确的语音输出,新增14种语音覆盖9个地区,首次正式支持印地语和芬兰语。现有应用无需修改代码即可使用升级后的语音,支持低延迟流式传输和SSML标记控制,适用于呼叫中心、媒体娱乐、电子学习和无障碍应用等多种场景。

    AI 选稿理由新增14种语音和两种新语言支持,提供更自然准确的语音输出,无需代码修改即可升级。

  5. AWS Machine Learning Blog

    AWS使用Kokoro TTS在Amazon SageMaker AI上实现AI语音代理低延迟流式传输

    AI 导读AWS发布解决方案,通过在Amazon SageMaker AI上部署Kokoro-82M文本转语音模型,实现AI语音代理的句子级流式合成。该方法将语音合成延迟降低52.4%,在端到端测试中提升2.4-3.5倍响应速度,同时解决了传统方案中音频传输负载增加33%和帧对齐问题。

    AI 选稿理由提供具体技术方案降低AI语音代理延迟,包含实测性能数据和优化方法,适用于需要实时语音交互的AI应用场景。

10月22日周四
  1. AWS Machine Learning Blog

    AWS发布自适应智能代理框架AAIF,结合本地SLM与云端Bedrock降低成本

    AI 导读AWS推出自适应智能代理框架(AAIF),使用Strands Agents构建,通过本地小语言模型(SLM)处理常规任务,复杂请求路由至Amazon Bedrock。该框架采用三层架构:智能编排层使用llama3.2:1b模型决策,本地处理层通过Ollama运行设备遥测和图像分析,云端处理层执行复杂模式分析。方案支持边缘设备、全云和混合部署,可降低约80%的API调用成本。

    AI 选稿理由AAIF提供了一种具体的智能模型编排方法,通过本地与云端模型协同降低AI代理成本,适用于需要低延迟和离线能力的IoT监控等场景。

  2. Google Research

    Google Research用AI解读盲扫超声,孕龄评估误差4.18天与专家相当

    AI 导读Google Research在《JAMA Network Open》发表前瞻性多中心研究:让未受过超声培训的操作者用低成本便携探头按标准路径盲扫腹部,由AI估算孕龄。385名16–36周孕妇中,AI平均绝对误差4.18天,专家超声测量为4.48天;芝加哥适配后为4.10天,内罗毕零本地优化为4.27天。仅用芝加哥120人约6%训练集的数据微调即适配新探头,并将预测范围扩至36周以上。

    AI 选稿理由新增前瞻性多中心临床验证:AI盲扫孕龄评估在低资源与高资源场景均达到与专家操作非劣的4.18天平均误差,且仅需约6%数据微调即可换用新硬件。

10月21日周三
  1. Hugging Face Blog

    IBM Granite Speech 5.0:新增2B模型,Turbo CTC提速约1.6倍

    AI 导读IBM更新Granite Speech系列三款模型:新发布 granite-speech-5.0-2b,增强噪声与远场鲁棒性,支持语言ID提示、最多2000词关键词偏置,并在英语短音频开放ASR平均WER上以5.06%排第二;470m-turboctc增加七语种、原生标点大小写,RTFx升至19870;4.1-2b-plus改进说话人归属、时间戳、长语音与关键词偏置。均以Apache 2.0发布。

    AI 选稿理由新增2B多语种语音模型与Turbo CTC更新,并给出WER 5.06%、RTFx约1.6倍提升及消歧指标,适用于企业转写、翻译与说话人归属场景。

  2. NVIDIA Blog

    NVIDIA在欧洲推出本地AI硬件产品线:RTX Spark、DGX Spark和DGX Station

    AI 导读NVIDIA在GTC Berlin展示了完整的本地AI硬件产品线:RTX Spark为Windows PC提供个人代理支持;DGX Spark支持开发者构建和扩展应用;DGX Station为企业团队运行前沿工作负载提供支持。新增功能包括Underdog桌面代理应用、DGX Spark 64GB版本、NVIDIA Sync支持八台DGX Spark集群、DGX Station Windows版本将于12月发布,以及Recursive Flint本地编码模型等。

    AI 选稿理由NVIDIA在欧洲推出完整的本地AI硬件产品线,包括RTX Spark、DGX Spark和DGX Station,并新增多项功能和模型支持,为开发者和企业提供了本地AI解决方案。

  3. Hugging Face Blog

    Hugging Face 推出 TorchTPU:TPU 现已成为 PyTorch 原生支持设备

    AI 导读Hugging Face 发布 TorchTPU,将 TPU 作为 PyTorch 的原生后端,使开发者无需修改代码即可在 TPU 上运行 Transformers、Diffusers 等库。用户只需将模型发送到 'tpu' 设备即可完成部署,支持分布式训练和 torch.compile 优化。TorchTPU 还提供了 Pallas 内核和 Kernels Hub 的 TPU 内核支持,显著提升模型推理速度。

    AI 选稿理由TorchTPU 解决了 PyTorch 用户在 TPU 上部署的复杂性问题,使 TPU 成为与 GPU、CPU 平等的原生设备,大幅简化了 Hugging Face 生态在 TPU 上的使用门槛。

10月20日周二
  1. Hugging Face Blog

    AnyLanguageModel 1.0:苹果平台本地模型运行一周年

    AI 导读Hugging Face发布AnyLanguageModel 1.0,作为苹果Foundation Models框架的替代方案,支持本地和云端模型切换。新增工具调用、引导生成、图像支持等功能,兼容OpenAI、Anthropic、Google等API,并提供swift-huggingface和swift-xet加速下载。本地模型支持Gemma、Qwen3.8等,适配iPhone和Mac设备。

    AI 选稿理由解决了苹果开发者本地模型部署和多云提供商兼容的瓶颈,提供统一API降低开发复杂度,支持从手机到服务器的跨平台部署。

  2. Hugging Face Blog

    PyTorch 2.15 为 Mac 带来 MPS 性能提升,FP8 支持与 MoE 模型解码加速

    AI 导读PyTorch 2.15 为 Apple Silicon Mac 带来多项 MPS 性能优化:FP8 数据类型支持,MoE 模型解码速度提升 5-6.5 倍,线性层和 softmax 运算加速,视频解码内存占用从 270GB 降至 8GB,新增复杂线性代数运算支持。同时提供更精确的 MPS 可用性检查和 Python 流控制功能。

    AI 选稿理由解决了 Mac 平面运行大型模型的性能瓶颈,使 MoE 模型解码速度提升 5-6.5 倍,视频生成内存占用降低 97%,为 Apple Silicon 用户提供了更高效的 AI 模型训练和推理能力。

  3. AWS Machine Learning Blog

    AWS 推出全新 SageMaker Studio 登录体验,新用户可快速访问

    AI 导读AWS 宣布新 SageMaker AI 客户现在只需几步即可进入完全配置的 SageMaker Studio 环境,无需设置高级 AWS 账户或输入信用卡信息。新用户可获得 100 美元免费额度,用于模型定制、训练、Studio 笔记本和端点部署,环境创建时间从 2 分钟缩短至约 20 秒。

    AI 选稿理由解决了新用户创建 AWS 账户的复杂流程,使个人开发者和初创团队能在几分钟内从发现模型到部署,大幅降低了 AI 开发门槛。

  4. Hugging Face Blog

    TorchNeuron:在AWS Trainium上运行Hugging Face模型变得前所未有的简单

    AI 导读Hugging Face宣布推出TorchNeuron,这是一个为AWS Trainium提供的新原生PyTorch后端。从2026年10月20日起,研究人员和开发者可通过pip安装使用。TorchNeuron支持eager模式、torch.compile和原生分布式API,使Transformers、Diffusers等库可直接在Trainium上运行,无需通过Optimum Neuron。文本生成模型支持率从46%提升至89%,训练和推理代码与在其他加速器上使用相同。

    AI 选稿理由TorchNeuron简化了在AWS Trainium上部署Hugging Face模型的流程,大幅提高了模型支持率,降低了开发者使用AI芯片的门槛。

  5. AWS Machine Learning Blog

    Deepgram使用AWS Trainium优化大规模语音AI处理效率

    AI 导读Deepgram将Nova-3语音识别模型迁移至AWS Trainium2芯片,通过PyTorch重构和内核调优,在批量转录工作负载中实现每美元处理音频量提升11-70%。该优化使Deepgram能够在单台EC2 trn2.3xlarge实例上运行8个模型副本,同时保持与原始模型相同的词错误率(WER)。

    AI 选稿理由解决了语音AI大规模部署中的成本效率瓶颈,使Deepgram能以更低价格提供更高效的语音处理服务,客户在Amazon SageMaker上自托管模型也能受益。

  6. AWS Machine Learning Blog

    AWS推出基于推送的KV传输技术,提升vLLM推理的TTFT和TPOT性能

    AI 导读AWS在vLLM推理引擎中引入基于推送的NIXL连接器,通过将KV传输协调工作移出关键路径,显著降低了首令牌时间(TTFT)和每输出令牌时间(TPOT)。在Amazon EC2 P5en实例测试中,相比传统拉取模式,新技术使Qwen3-32B模型的TTFT提升最高达3倍,TPOT改善最高达30%。

    AI 选稿理由解决了分布式推理中KV传输延迟瓶颈,使预填充和解码阶段可独立扩展,特别适合高请求率场景下的低延迟应用。

  7. AWS Machine Learning Blog

    AWS推出双向KV传输技术,将vLLM多轮代理工作负载TTFT提升最高3.3倍

    AI 导读AWS提出双向KV传输机制,解决多轮对话中上下文重复计算问题。通过在预填充和解码节点间双向传输KV缓存,避免重复计算历史上下文。在Amazon EC2 P5en实例测试中,Qwen3-32B模型TTFT提升1.6倍,zai-org/GLM-5-FP8模型提升3.3倍。该技术已集成到vLLM中,支持GPU和Trainium实例。

    AI 选稿理由解决了多轮代理工作负载中TTFT随对话增长而恶化的瓶颈,显著提升响应速度并减少计算资源消耗。

10月18日周日
  1. NVIDIA Blog79

    NVIDIA RTX Spark笔记本发布,开启全球庆祝活动

    AI 导读NVIDIA RTX Spark笔记本电脑现已上市,配备Blackwell RTX图形、高达128GB统一内存和完整NVIDIA AI平台,起售价2399美元。来自ASUS、Dell、HP、Lenovo、Microsoft和MSI的笔记本提供强大的本地AI、内容创作和游戏能力,NVIDIA在全球多地包括柏林、北京、伊斯坦布尔、首尔、旧金山和台北举办了庆祝活动。

    AI 选稿理由RTX Spark笔记本将强大AI计算能力融入便携设备,为创作者和开发者提供本地AI解决方案。

10月16日周五
  1. NVIDIA Blog62

    NVIDIA 发布 RTX Spark,面向创作者、玩家与 AI 智能体的 Windows PC

    AI 导读NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。

    AI 选稿理由NVIDIA 官方公布 RTX Spark 的本地 AI 定位与全球发布活动安排,并汇总多家媒体评测反馈。

10月15日周四
  1. NVIDIA Blog77

    NVIDIA扩展Nemotron家族:发布最高效率的Super VL和Bolt模型

    AI 导读NVIDIA发布Nemotron 3.5 Super VL和两个新的边缘模型Bolt 74B-A9B 24GB和Bolt E4B 4GB,覆盖从数据中心到桌面设备的全范围智能体部署。Super VL在多模态智能体任务上提供领先准确率,参数量约为最大推理模型的五分之一,而Bolt系列则针对边缘设备优化。

    AI 选稿理由原文给出了不同规模智能体模型的性能特点和部署场景,读者可以据此选择适合自己需求的模型。

10月14日周三
  1. Google DeepMind55

    Google DeepMind 与新加坡政府合作推出端侧反诈检测模型

    AI 导读Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上运行的端侧诈骗检测模型。该模型在设备本地处理对话数据,采用两阶段流水线:先由轻量分类器低功耗筛查消息,再用微调后的 Gemma 分析更大范围对话上下文以确认威胁或排除误报,检测到操纵性对话模式时在设备上实时提醒用户。

10月2日周五