Flower AI và Vana ra mắt mô hình đào tạo phân tán quy mô lớn Collective-1

Foresight News đưa tin, theo Wired, startup về AI là Flower AI đã hợp tác cùng Vana ra mắt một mô hình ngôn ngữ lớn mang tên Collective-1, được huấn luyện theo phương thức phân tán.

Mô hình này hoạt động trên các GPU phân bổ trên toàn cầu, tránh phụ thuộc vào các trung tâm dữ liệu truyền thống, đồng thời tích hợp dữ liệu riêng tư của người dùng từ X, Reddit và Telegram.

Collective-1 hiện có 7 tỷ tham số, nhỏ hơn đáng kể so với các mô hình tiên tiến như ChatGPT và Claude, nhưng Flower cho biết họ đang chuẩn bị huấn luyện một mô hình 30 tỷ tham số và dự kiến phát hành phiên bản gần đạt 100 tỷ tham số trong năm nay.