事件记录历史事件
DeepSeek 开源 DeepInfer 推理框架
1 篇报道1 个报道来源6 天前更新
先了解这件事
报道摘要
DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。
摘自 The Decoder
报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- The Decoder精选DeepSeek 开源其最快最便宜模型 V4.1-Flash 背后的推理框架 DeepInfer
DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。