Foresight News 消息,據 Wired 報道,AI 初創公司 Flower AI 與 Vana 聯合推出了一種通過分佈式方式訓練的大語言模型 Collective-1。
該模型在全球多地 GPU 上運行,避開傳統數據中心的依賴,並引入來自 X、Reddit 和 Telegram 的用戶私有數據。
Collective-1 當前規模爲 70 億參數,遠小於 ChatGPT 和 Claude 等前沿模型,但 Flower 表示正籌備訓練 300 億參數模型,並計劃在今年內推出接近 1000 億參數的版本。