DeepSeek官宣，25日开源DeepEP，第一个用于 MoE 模型训练和推理的开源 EP 通信库。特点有：高效、优化的全员沟通；节点内和节点间均支持 NVLink 和 RDMA；用于训练和推理预填充的高吞吐量内核；用于推理解码的低延迟内核；原生 FP8 调度支持；灵活的 GPU 资源控制，实现计算-通信重叠。
新华财经|2025年02月25日
阅读量：
暂无详文
新华财经声明：本文内容仅供参考，不构成投资建议。投资者据此操作，风险自担。
微信扫码，支付元
支付宝，支付元
