AI2 发布 Olmo-core 3:面向万亿参数 MoE 的开源训练框架
AI 导读AI2 发布 Olmo-core 3,这是其大语言模型训练框架的重大升级,重新设计了开放的 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数规模并保持计算效率。
AI 选稿理由原文给出 MoE 训练栈的并行策略与吞吐对比数据,可了解万亿参数 MoE 训练的开源工程取舍。
外观
AI 导读AI2 发布 Olmo-core 3,这是其大语言模型训练框架的重大升级,重新设计了开放的 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数规模并保持计算效率。
AI 选稿理由原文给出 MoE 训练栈的并行策略与吞吐对比数据,可了解万亿参数 MoE 训练的开源工程取舍。
AI 导读H 公司发布 Holo4 系列智能体模型,包含 27B 稠密版和 35B-A3B MoE 版,两者均已在 H Models API 上线,权重以 BF16、FP8、NVFP4 和 4-bit GGUF 格式开源在 Hugging Face。
AI 选稿理由Holo4 同时给出两种尺寸、跨 GUI 与 MCP 的统一接口和公开轨迹,可据此判断通用计算机智能体的成本与能力取舍。