跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
中文动态

#教程/实践.

正在确认更新状态可见页面每分钟只读检查
10月22日周四
  1. AWS Machine Learning Blog

    AWS开源Deep Insight:多智能体数据分析系统的五项生产实践

    AI 导读AWS解决方案架构团队开源Deep Insight,一个用CSV和自然语言提示自动生成带引用DOCX报告的多智能体系统,由Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker等角色协作。文章总结五项生产挑战及对应方案:用Strands Agents SDK的Graph与Agents-as-Tools模式控制执行流,按角色分配Claude Haiku/Opus/Sonnet并选择性启用提示缓存,用Bedrock AgentCore做托管运行与会话隔离,用Fargate+ALB沙箱执行LLM生成代码,用DynamoDB、SNS、Cognito搭建运维看板。系统提供本地CLI、Web和AgentCore三种部署方式,LG电子基于同架构将分析时间从3天缩至30分钟。

    AI 选稿理由给出可复用的多智能体生产架构细节:分层编排、按角色选模型与选择性提示缓存、Fargate沙箱执行生成代码的具体做法,并附LG电子落地数据(3天缩至30分钟),系统已开源可直接参考。

  2. AWS Machine Learning Blog

    用 AWS PrivateLink 让企业网络私密访问 Amazon Quick

    AI 导读AWS 发布教程,介绍如何让本地数据源与 Amazon Quick 之间的流量不经过公网:用 PrivateLink 的 VPC 端点承载控制台、API 等用户流量,用 Quick 控制台创建的 VPC 连接让 Quick Sight、Flows、Agents、Index 等经 ENI 访问 VPC 内及经 Direct Connect/VPN 连通的本地数据库和内部 API;另需为 S3、Redshift、Athena、Secrets Manager、Glue 建服务端点,并放行 CloudFront 等无端点支持的域名。文章还给出执行角色权限、端点策略、DNS 配置、IP/VPC 端点强制限制以及故障排查方法。

  3. AWS Machine Learning Blog

    AWS Trainium支持torchtitan训练Qwen3模型的三种方法

    AI 导读AWS发布技术文章,介绍如何在AWS Trainium上使用torchtitan训练Qwen3模型。文章提供了三种配置方法:使用Transformers v5作为建模后端、使用torchtitan原生Qwen3实现、以及添加Neuron Kernel Interface混合专家内核。所有方法均可在单台trn2.48xlarge实例上运行,支持预训练和微调,并展示了如何加载和保存Hugging Face检查点。

    AI 选稿理由提供了在AWS Trainium上训练Qwen3模型的具体技术实现方法,包括三种不同配置的代码示例和性能验证,适用于分布式AI训练和推理工作流的开发者。

  4. Hugging Face Blog

    用Isaac Lab 3.0训练Microduck双足机器人:从仿真到真机部署

    AI 导读Pollen Robotics与Hugging Face推出平价开源双足机器人Microduck,本篇教程演示用NVIDIA Isaac Lab和Newton在GPU并行仿真中训练行走策略:61维观测、14维关节输出,16卡配置在崎岖地形下最高约125万步/秒;通过域随机化和 backlash 建模覆盖伺服摩擦与延迟,评估后自动导出ONNX,再经robotctl加载到真机,也可上传Hugging Face Hub或在Microduck Arena比拼。

  5. Hugging Face Blog

    TorchNeuron 剖析(一):在 AWS Trainium 上做系统级性能分析

    AI 导读教程从零介绍如何用 torch.profiler 配合 Neuron 后端抓取干净的性能轨迹,通过 key_averages() 表定位占用 Neuron 设备时间的 ATen 算子,并用 Neuron Explorer 追踪一次算子从框架分发、运行时调度到 NeuronCore 硬件执行的全过程。以 RMSNorm 为例对比三种实现:朴素逐算子约 2355 微秒、torch.rms_norm 约 403 微秒、torch.compile 约 376 微秒,后两者融合为单次内核调度,设备时间约为前者的六分之一。

  6. Hugging Face Blog

    TorchNeuron 性能分析(一):在 AWS Trainium 上做系统级性能分析

    AI 导读Hugging Face 博客发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 Neuron Explorer 分析推理性能。文章以 RMSNorm 为例对比三种实现:朴素 PyTorch 算子约 2,355 µs,torch.rms_norm 约 403 µs,torch.compile 约 376 µs,后两者融合为单内核,设备时间约为朴素实现的六分之一。内容包括 NeuronConfig 配置、按 self_privateuse1_time_total 读表、用依赖链追踪一次算子从框架调度到硬件执行。

    AI 选稿理由提供可复用的 Trainium 推理性能分析方法,并给出 RMSNorm 三种实现的设备耗时对比,适用于在 Neuron 后端定位算子级热点。

10月21日周三
  1. AWS Machine Learning Blog

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理:SFT 与 GRPO 的取舍

    AI 导读基座 GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 按目标语言推理(英 100%、法/西/意 0%、德 10%)。作者在 SageMaker HyperPod 上用 LoRA 微调,结论是 SFT 完成主要工作,GRPO 只在有能力提升空间时起作用;另用 Qwen2.5-7B 做对照实验验证该规律。

    AI 选稿理由给出了 SFT 与 GRPO 何时各自动手的可复用判断标准和完整训练栈配置,帮助团队针对非英语用户定制开源推理模型。

  2. AWS Machine Learning Blog

    Octave 在 Amazon Bedrock 上构建安全多租户 AI 基础,嵌入 20 亿份文档

    AI 导读Octave 为 14000 多家受监管行业客户的质量管理平台 Reliance 构建了多租户 AI 基础。团队把所有租户的隔离要求作为前提,用 Amazon Bedrock 上的 Cohere Embed v4 完成 20 亿份文档的嵌入,并把向量存储按租户隔离到 OpenSearch Service;执行层通过 Bedrock AgentCore Gateway 和隔离 microVM 调用 Claude,前后两次经过 Bedrock Guardrails 过滤。该基础已将每个用例的部署时间缩短 50%。

    AI 选稿理由文章完整给出了受监管 SaaS 平台在租户数据严格隔离、不可信内容进入和超大规模嵌入三方面的解决办法,包括逐租户向量库、按用户权限执行 Agent 和输入与输出双重过滤,可作为同类多租户 AI 平台的工程参考。

10月17日周六
  1. AWS Machine Learning Blog77

    构建AI智能体信任:基于Amazon Bedrock AgentCore的生产就绪评估框架

    AI 导读AWS介绍了基于Amazon Bedrock AgentCore构建的九阶段AI智能体评估框架,该框架覆盖从基础定义到持续改进的完整生命周期,帮助确保AI智能体在生产环境中的质量和可靠性。文章详细描述了如何通过多层次评估工具和自动化流程来监控和改进AI智能体的安全性、质量、性能、成本和运营控制等关键指标。

    AI 选稿理由原文提供了完整的AI智能体评估框架,读者可据此构建自己的质量保障体系。

10月15日周四
  1. AWS Machine Learning Blog66

    使用Amazon SageMaker JumpStart部署和评估模型

    AI 导读AWS SageMaker JumpStart提供预训练模型目录,支持一键部署和性能测试。2026年新增模型发现优化和Hugging Face集成功能,用户可通过UI或Python SDK完成模型部署、性能测试和资源清理。

    AI 选稿理由原文提供了完整的模型部署和评估流程,读者可直接迁移到实际工作中。

  2. AWS Machine Learning Blog77

    使用Amazon Bedrock AgentCore生成演示文稿

    AI 导读使用Amazon Bedrock AgentCore构建的AI代理系统可将演示文稿生成时间从手动创建的数小时缩短到90秒以内。该系统使用监督代理路由请求到专门工具,结合RAG管道确保内容基于源文档,并通过Amazon Bedrock Guardrails验证内容合规性。解决方案包含公开代码库,支持企业集成和自定义配置。

    AI 选稿理由原文提供了完整的实现方案和性能数据,读者可以据此评估类似AI代理系统的实用性和成本效益。

  3. Latent Space

    OpenAI与Anthropic在金融Agent自主性与安全上的不同路径

    AI 导读在AI Engineer纽约大会上,OpenAI的Joseph Kim提出模型能力越过“有用性阈值”后,金融Agent将能承担投资想法生成和交易;Anthropic则强调先建立身份、权限、沙箱、审批与可复现的信任层,让Agent只提议不执行。Two Sigma与Bloomberg补充了分类器、范围化凭证、工具调用控制与熔断开关等落地控制手段。

    AI 选稿理由整理了OpenAI、Anthropic、Two Sigma和Bloomberg在金融Agent安全上的具体设计,包括审批分类器、身份权限层和确定性外部控制,可供开发金融Agent的团队直接参考。