DeepSeek lanzó una serie de estrategias paralelas optimizadas en el cuarto día de la Semana de Código Abierto, incluyendo Dual Pipeline (un algoritmo de paralelismo de tuberías bidireccional que optimiza la superposición de computación y comunicación en el entrenamiento V3/R1), EPLB (Expert Parallel Load Balancer, que mejora la eficiencia de la asignación de recursos de computación) y una herramienta de análisis de superposición de computación y comunicación para ayudar a optimizar el rendimiento del entrenamiento.

PANews informó el 27 de febrero que, según DeepSeek (@deepseek_ai), en el cuarto día de la Semana de Código Abierto, el equipo liberó como código abierto varias estrategias paralelas optimizadas, incluyendo DualPipe (algoritmo de paralelismo de tuberías bidireccional, optimizando la superposición de cómputo y comunicación en el entrenamiento V3/R1), EPLB (Balanceador de Carga Paralela de Expertos, mejorando la eficiencia de la asignación de recursos computacionales) y herramientas de análisis de superposición de cómputo y comunicación para ayudar a optimizar el rendimiento de entrenamiento.

DeepSeek ha lanzado una estrategia paralela optimizada, introduciendo DualPipe y EPLB.