DeepSeek 开源其最快最便宜模型 V4.1-Flash 背后的推理框架 DeepInfer
AI 导读DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。
AI 选稿理由DeepSeek 开源了支撑 V4.1-Flash 的 DeepInfer 推理框架,基于 vLLM、主打降低算力成本与能耗,为可复用的推理工程方案。