产品发布/更新 ·

TPU跑Kimi较英伟达GPU快57% 为vLLM团队出品

70已收束1 条量子位

摘要

基于vLLM创业团队开发的DeepSeek推理框架,实现TPU跑Kimi提速57%。

来源

  1. 量子位 ↗TPU跑Kimi较英伟达GPU快57% 为vLLM团队出品基于vLLM创业团队开发的DeepSeek推理框架,实现TPU跑Kimi提速57%。
返回 AI 热点