DeepSeek重磅开源三项技术项目，梁文锋亲自参与，包括双向流水线并行算法、专家并行负载均衡器及模型训练和推理优化，昨晚更推出API错峰优惠大降价

深度揭秘顶级 AI 性能的秘诀：DeepSeek 开源周第四天发布重要工具和数据集

在 DeepSeek 的开源周进入第四天之际，这家公司发布了三项重要的成果：DualPipe、EPLB 以及训练和推理框架的分析数据。这些工具和数据集旨在帮助社区更好地理解并优化通信与计算重叠策略，提升大规模模型的训练和推理效率。

DualPipe：双向流水线并行算法

DualPipe 是一种创新的双向流水线并行算法，已在 DeepSeek-V3 和 R1 模型的训练中使用。它通过实现前向和后向计算与通信阶段的完全重叠，显著减少了流水线气泡（即计算单元等待数据时的空闲时间）。这种技术使得不同部分可以并行工作，最大限度地提高了 GPU 利用率。GitHub 链接：[DualPipe](https：//github.com/deepseek-ai/DualPipe)

EPLB：专家并行负载均衡器

EPLB 是专为 DeepSeek-V3/R1 设计的专家并行负载均衡器。传统的数据并行方法效率低下且浪费资源，而专家并行（EP）则将不同的专家分配到不同的 GPU 上，从而提高效率。EPLB 解决了专家负载不平衡的问题，智能地分配专家以最大化 GPU 利用率并最小化通信开销。GitHub 链接：[EPLB](https：//github.com/deepseek-ai/eplb)

训练和推理框架的分析数据

为了帮助社区更好地理解通信 – 计算重叠策略和底层实现细节，DeepSeek 公开了其训练和推理框架的分析数据。这些数据由 PyTorch Profiler 捕获，并可以通过 Chrome 或 Edge 浏览器中的 tracing 工具进行可视化。GitHub 链接：[计算分析](https：//github.com/deepseek-ai/profile-data)

实际应用案例

有网友将 DualPipe 的工作原理比喻为交响乐团的指挥，每个 GPU 执行其分配的任务，而训练框架确保一切同步。DualPipe 通过允许不同部分并行工作，消除了传统方法中的延迟问题。EPLB 则解决了专家并行中的负载失衡问题，确保 GPU 资源得到充分利用。

错峰优惠活动

除了技术发布，DeepSeek 还推出了错峰优惠活动。北京时间每日 00：30 至 08：30 的夜间时段，API 调用价格大幅下调，DeepSeek-V3 降至原价的 50%，DeepSeek-R1 更低至 25%。这一举措不仅吸引了国内用户，也受到了美国用户的欢迎。

未来展望

随着开源周接近尾声，DeepSeek 是否会在最后一天推出 R2 模型备受期待。无论如何，这次发布的工具和数据集无疑为社区提供了宝贵的技术支持和优化建议。

本文来源：