The Decoder· Matthias Bastian· 媒体 / 作者来源·· 6 天前精选
DeepSeek 开源其最快最便宜模型 V4.1-Flash 背后的推理框架 DeepInfer
原文标题
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。
来源:The Decoder · the-decoder.com
导读与选稿说明
DeepSeek 开源了支撑 V4.1-Flash 的 DeepInfer 推理框架,基于 vLLM、主打降低算力成本与能耗,为可复用的推理工程方案。
导读由模型辅助整理,非独立核验。完整信息见原文。