По информации Foresight News со ссылкой на Wired, стартап в сфере AI Flower AI совместно с Vana запустили крупную языковую модель под названием Collective-1, обученную распределённым способом.Эта модель работает на GPU, расположенных по всему миру, что позволяет не зависеть от традиционных дата-центров, и использует приватные данные пользователей из X, Reddit и Telegram.В настоящий момент Collective-1 насчитывает 7 миллиардов параметров, что значительно меньше, чем у передовых моделей, таких как ChatGPT и Claude, однако Flower заявляет, что готовится к обучению модели на 30 миллиардов параметров и планирует выпустить версию с примерно 100 миллиардами параметров в течение этого года.

Согласно данным Foresight News и Wired, стартапы в области искусственного интеллекта Flower AI и Vana совместно представили крупномасштабную языковую модель под названием Collective-1, обученную с использованием распределённого подхода. Эта модель работает на GPU, расположенных по всему миру, что позволяет обойтись без традиционных дата-центров. В процесс обучения включены приватные пользовательские данные из X, Reddit и Telegram. В настоящее время Collective-1 содержит 7 миллиардов параметров, что значительно меньше, чем у передовых моделей, таких как ChatGPT и Claude. Тем не менее, Flower AI заявила, что готовит модель с 30 миллиардами параметров и планирует выпустить версию с приближённо 100 миллиардами параметров уже в этом году.

Flower AI и Vana объявили о запуске совместного проекта по распределённому обучению крупной модели Collective-1.