Latent Space· Latent Space· 媒体 / 作者来源·· 5 天前精选
AINews:DeepSeek开源DeepInfer推理框架,MiniMax发布M3.1 Flash模型
原文标题
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek开源DeepInfer推理框架,支持英伟达GPU与昇腾NPU,单集群每天处理155万亿Token,谷电时段每GPU小时收入38美元;MiniMax发布M3.1 Flash模型,总参数4280亿,支持100万Token上下文,72小时内处理超100万亿Token,推理速度提升近3倍;Anthropic让Claude生成数学证明验证代码正确性,为123个开源库生成约1.8亿行证明代码;腾讯推出AI互动知识产品'懂了鸭',可将文字、知识点转化为动态课件、3D演示等内容。
来源:Latent Space · latent.space
导读与选稿说明
DeepSeek开源高性能推理框架DeepInfer,提供具体生产数据和经济效益;MiniMax发布大规模参数模型,展示实际部署能力;Anthropic和腾讯分别推出创新AI应用,提供可复用方法。
导读由模型辅助整理,非独立核验。完整信息见原文。