挖币网 快讯 详情

DeepSeek开源周第二天,很高兴介绍 DeepEP - 第一个用于 MoE 模型训练和推理的开源 EP 通信库。 ...

2025-02-25 02:57:03
 
DeepSeek开源周第二天,很高兴介绍 DeepEP - 第一个用于 MoE 模型训练和推理的开源 EP 通信库。 ...
  • DeepSeek开源周第二天,开源 EP通信库DeepEP

    2025-02-25 10:57:03
    DeepSeek开源周第二天,很高兴介绍 DeepEP - 第一个用于 MoE 模型训练和推理的开源 EP 通信库。 高效且优化的全对全通信 通过 NVLink 和 RDMA 支持节点内和节点间 用于训练和推理预填充的高吞吐量内核 用于推理解码的低延迟内核 原生 FP8 调度支持 灵活的 GPU 资源控制,用于计算通信重叠
  • 声明:此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。本网站所提供的信息,只供参考之用。