Мы также сделали видео в стиле @3blue1brown, объясняющее суть статьи на высоком уровне. https://t.co/7SspmcceQq

[{"shortUrl":"https://t.co/7SspmcceQq","type":"video"}]

У Pluralis на этой неделе основная статья на ICML, и команда находится в Ванкувере, проводя несколько мероприятий. Лучшим будет Open Source Mixer, который мы проводим совместно с @gensynai и @akashnet_ в четверг вечером. Для всех, кто интересуется децентрализованным обучением, это должен быть отличный вечер.
https://t.co/7fR7PYGWeS

Код нашей принятой статьи (https://t.co/nRazOHBgKJ) полностью открыт - мы сочли этот подход полезным во многих наших внутренних экспериментах, и мы думаем, что он будет полезен и другим. https://t.co/X93ovivvEi

Эта работа является первым методом, позволяющим проводить полностью асинхронное обучение в Pipeline Parallel setting со скоростью сходимости, сравнимой с синхронными методами (в статье есть доказательство сублинейной скорости), при этом устраняя любое время простоя на устройствах. Это означает, что обучение происходит быстрее. Это оказывает большое влияние в децентрализованном случае, где время простоя увеличивается из-за низкой скорости связи.

Также напоминаем, что скоро начнется прямая трансляция статьи Protocol Models - у нас гораздо больше интереса, чем мы можем удовлетворить в этом первом запуске, однако мы будем отдавать приоритет участникам на основе полноты зарегистрированной информации (см. закрепленный твит для формы регистрации).