Pluralis 本週在 ICML 上發表了一篇主要論文，團隊目前在溫哥華舉辦多場活動。其中最棒的活動是我們與 @gensynai 和 @akashnet_ 週四晚上合辦的 Open Source Mixer。對於任何對去中心化訓練感興趣的人來說，這應該會是一個美好的夜晚。
https://t.co/7fR7PYGWeS

我們已獲接受的論文 (https://t.co/nRazOHBgKJ) 中的程式碼是完全開放的——我們發現這種方法在我們的許多內部實驗中都很有用，並且我們認為它對其他人也會有用。https://t.co/X93ovivvEi

這項工作是第一種允許在 Pipeline Parallel 設置中進行完全非同步訓練的方法，其收斂速度與同步方法相當（論文中有一個次線性速率的證明），同時消除了設備上的任何閒置時間。這意味著訓練速度更快。這在去中心化案例中具有很大的影響，在去中心化案例中，由於通信速度慢，閒置時間會被放大。

另外，提醒一下，Protocol Models 論文的實時運行即將開始——我們收到的興趣遠遠超過了我們在第一次運行中所能容納的，但是我們將根據註冊信息的完整性來優先考慮加入者（有關註冊表，請參閱置頂推文）。