A DeepSeek lançou uma série de estratégias paralelas otimizadas no quarto dia da Semana de Código Aberto, incluindo o Dual Pipeline (um algoritmo paralelo de pipeline bidirecional que otimiza a sobreposição computação-comunicação no treinamento V3/R1), EPLB (Expert Parallel Load Balancer, que melhora a eficiência da alocação de recursos de computação) e uma ferramenta de análise de sobreposição de computação-comunicação para ajudar a otimizar o desempenho do treinamento.

A PANews relatou em 27 de fevereiro que, de acordo com a DeepSeek (@deepseek_ai), no quarto dia da Open Source Week, a equipe abriu o código-fonte de várias estratégias paralelas otimizadas, incluindo DualPipe (algoritmo de paralelização bidirecional, otimizando a sobreposição de computação e comunicação no treinamento V3/R1), EPLB (Expert Parallel Load Balancer, melhorando a eficiência da alocação de recursos computacionais) e ferramentas de análise de sobreposição de computação e comunicação para ajudar a otimizar o desempenho do treinamento.

A DeepSeek lançou uma estratégia paralela otimizada, apresentando o DualPipe e o EPLB.