跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
今日

精选.

沿原始来源,读懂正在发生的变化。

10月26日 · 周一 · 第 299 期进入金融资讯 ↗

最新精选

10月22日周四
  1. AWS Machine Learning Blog

    AWS开源Deep Insight:多智能体数据分析系统的五项生产实践

    AI 导读AWS解决方案架构团队开源Deep Insight,一个用CSV和自然语言提示自动生成带引用DOCX报告的多智能体系统,由Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker等角色协作。文章总结五项生产挑战及对应方案:用Strands Agents SDK的Graph与Agents-as-Tools模式控制执行流,按角色分配Claude Haiku/Opus/Sonnet并选择性启用提示缓存,用Bedrock AgentCore做托管运行与会话隔离,用Fargate+ALB沙箱执行LLM生成代码,用DynamoDB、SNS、Cognito搭建运维看板。系统提供本地CLI、Web和AgentCore三种部署方式,LG电子基于同架构将分析时间从3天缩至30分钟。

    AI 选稿理由给出可复用的多智能体生产架构细节:分层编排、按角色选模型与选择性提示缓存、Fargate沙箱执行生成代码的具体做法,并附LG电子落地数据(3天缩至30分钟),系统已开源可直接参考。

  2. AWS Machine Learning Blog

    AWS Trainium支持torchtitan训练Qwen3模型的三种方法

    AI 导读AWS发布技术文章,介绍如何在AWS Trainium上使用torchtitan训练Qwen3模型。文章提供了三种配置方法:使用Transformers v5作为建模后端、使用torchtitan原生Qwen3实现、以及添加Neuron Kernel Interface混合专家内核。所有方法均可在单台trn2.48xlarge实例上运行,支持预训练和微调,并展示了如何加载和保存Hugging Face检查点。

    AI 选稿理由提供了在AWS Trainium上训练Qwen3模型的具体技术实现方法,包括三种不同配置的代码示例和性能验证,适用于分布式AI训练和推理工作流的开发者。

  3. Hugging Face Blog

    TorchNeuron 性能分析(一):在 AWS Trainium 上做系统级性能分析

    AI 导读Hugging Face 博客发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 Neuron Explorer 分析推理性能。文章以 RMSNorm 为例对比三种实现:朴素 PyTorch 算子约 2,355 µs,torch.rms_norm 约 403 µs,torch.compile 约 376 µs,后两者融合为单内核,设备时间约为朴素实现的六分之一。内容包括 NeuronConfig 配置、按 self_privateuse1_time_total 读表、用依赖链追踪一次算子从框架调度到硬件执行。

    AI 选稿理由提供可复用的 Trainium 推理性能分析方法,并给出 RMSNorm 三种实现的设备耗时对比,适用于在 Neuron 后端定位算子级热点。

10月21日周三
  1. AWS Machine Learning Blog

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理:SFT 与 GRPO 的取舍

    AI 导读基座 GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 按目标语言推理(英 100%、法/西/意 0%、德 10%)。作者在 SageMaker HyperPod 上用 LoRA 微调,结论是 SFT 完成主要工作,GRPO 只在有能力提升空间时起作用;另用 Qwen2.5-7B 做对照实验验证该规律。

    AI 选稿理由给出了 SFT 与 GRPO 何时各自动手的可复用判断标准和完整训练栈配置,帮助团队针对非英语用户定制开源推理模型。

  2. AWS Machine Learning Blog

    Octave 在 Amazon Bedrock 上构建安全多租户 AI 基础,嵌入 20 亿份文档

    AI 导读Octave 为 14000 多家受监管行业客户的质量管理平台 Reliance 构建了多租户 AI 基础。团队把所有租户的隔离要求作为前提,用 Amazon Bedrock 上的 Cohere Embed v4 完成 20 亿份文档的嵌入,并把向量存储按租户隔离到 OpenSearch Service;执行层通过 Bedrock AgentCore Gateway 和隔离 microVM 调用 Claude,前后两次经过 Bedrock Guardrails 过滤。该基础已将每个用例的部署时间缩短 50%。

    AI 选稿理由文章完整给出了受监管 SaaS 平台在租户数据严格隔离、不可信内容进入和超大规模嵌入三方面的解决办法,包括逐租户向量库、按用户权限执行 Agent 和输入与输出双重过滤,可作为同类多租户 AI 平台的工程参考。

10月15日周四
  1. Latent Space

    OpenAI与Anthropic在金融Agent自主性与安全上的不同路径

    AI 导读在AI Engineer纽约大会上,OpenAI的Joseph Kim提出模型能力越过“有用性阈值”后,金融Agent将能承担投资想法生成和交易;Anthropic则强调先建立身份、权限、沙箱、审批与可复现的信任层,让Agent只提议不执行。Two Sigma与Bloomberg补充了分类器、范围化凭证、工具调用控制与熔断开关等落地控制手段。

    AI 选稿理由整理了OpenAI、Anthropic、Two Sigma和Bloomberg在金融Agent安全上的具体设计,包括审批分类器、身份权限层和确定性外部控制,可供开发金融Agent的团队直接参考。

已经到底了