1. DooPrime德璞 › 首页 › 新闻中心›媒体资讯

一口气放出三个王炸！DeepSeek“开源周”第四弹，开源最新优化并行策略，包括DualPipe、专家并行负载均衡器 (EPLB)和全流程性能分析体系。


据介绍，DualPipe​和​EPLB​是面向大规模AI模型训练的两项核心技术，分别聚焦于分布式训练效率优化​和专家并行负载均衡，均为V3/R1设计。

具体而言，DualPipe是一种双向流水线并行算法，旨在减少分布式训练中的流水线“气泡”（空闲时间），提升GPU利用率；​EPLB则是为了解决混合专家模型（MoE）中GPU负载不均的问题，可以提升资源利用率。

最后，DeepSeek开源了从训练到推理的全链路性能数据，这些用Chrome浏览器就能可视化效率运行的链路，能够通过量化计算（如矩阵运算）与通信（如梯度同步、参数传输）的时间重叠比例，识别训练瓶颈，指导算法或系统优化，降低端到端训练延迟。

上一篇：央行“猛踩刹车”，债市“风云突变”，释放什么信号？

下一篇：美债收益率还能到多低？大摩：跌破4%！
返回顶部
电话
邮箱
客服
地图
返回顶部
电话
邮箱
客服
地图