跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
事件记录历史事件

DeepSeek 开源 DeepInfer 推理框架

1 篇报道1 个报道来源6 天前更新

先了解这件事

报道摘要

DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。

摘自 The Decoder

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. The Decoder精选
    DeepSeek 开源其最快最便宜模型 V4.1-Flash 背后的推理框架 DeepInfer

    DeepSeek 宣布开源 DeepInfer,这是其 V4.1-Flash 模型所使用的推理框架。该系统基于 vLLM 构建,可在运行 AI 模型时降低算力成本和能耗。文章认为这一发布对 OpenAI、Anthropic 等西方厂商构成进一步的价格压力。