VectorChat $CHAT: Журнал разработок 7/3-7/19
Web3:
- Зарегистрирован подсетевой узел на основной сети $TAO
- Проведен бенчмаркинг нашего сервиса по сравнению с различными сервисами чанков (например, @UnstructuredIO, @AI21Labs, @LangChainAI)
- Созданы SDK для Python и Node
- Описан пример кода проектирования
- Запланировано содержание для панелей пользователей, валидаторов и $CHAT
- Разрабатывается лендинг
Web2:
7/3-7/11:
- Проведен бенчмаркинг производительности и затрат для различных моделей на…
+ Разных аппаратных конфигурациях
+ Разном размере параметров
+ Разной степени квантования
- Протестированы OpenVoice v2, xtts v2, StyleTTS
- Тестирование vLLM, оптимизация KV кеша для снижения затрат
- Миграция бэкенда на Python
- Переключение гибридного вектора на использование bert sparse embedding
- Завершена интеграция страниц создания candy, обнаружения candy и пакетов candy
- Добавлены пользовательские имена и аватары на страницы профилей
- Различные корректировки и исправления интерфейса на странице чата
- Реализован бэкенд для Voice
7/12-7/19:
- Обновлен конечный пункт чата
- Завершена страница создания candy
- Завершен поиск по тегам/персонажам/пользователям/candy
- Добавлены AI-сгенерированные изображения и описания в процесс создания персонажа
- Обновлен RAG конвейер для уменьшения задержки фильтрации по метаданным candy
- Созданы страницы обнаружения тегов/категорий
- Добавлены теги/категории в процесс создания персонажа
- Обновлена страница профиля с функциями редактирования профиля, лайка профиля, приватности/публичности