У Pluralis на этой неделе основная статья на ICML, и команда находится в Ванкувере, проводя несколько мероприятий. Лучшим из них будет Open Source Mixer, который мы проводим совместно с @gensynai и @akashnet_ в четверг вечером. Для всех, кто интересуется децентрализованным обучением, это должен быть отличный вечер.
https://t.co/7fR7PYGWeS

Код нашей принятой статьи (https://t.co/nRazOHBgKJ) полностью открыт — мы сочли этот подход полезным во многих наших внутренних экспериментах и думаем, что он будет полезен и другим. https://t.co/X93ovivvEi

Эта работа является первым методом, позволяющим проводить полностью асинхронное обучение в Pipeline Parallel setting со скоростью сходимости, сравнимой с синхронными методами (в статье есть доказательство сублинейной скорости), при этом исключается любое время простоя на устройствах. Это означает, что обучение происходит быстрее. Это оказывает большое влияние в децентрализованном случае, где время простоя увеличивается из-за низкой скорости связи.

Также напоминаем, что скоро начнется прямая трансляция статьи Protocol Models — у нас гораздо больше интереса, чем мы можем удовлетворить в этом первом запуске, однако мы будем отдавать приоритет участникам на основе полноты зарегистрированной информации (см. закрепленный твит для формы регистрации).