Компания Tongyan Lingzhi, которая является дочерней структурой индустриальной платформы Пекинского института общей искусственного интеллекта (BIGAI), представила свой подход к концепции персонального ИИ. Этот подход предполагает создание моделей, которые непрерывно обучаются на основе данных конкретного человека, проекта или компании, вместо того чтобы полагаться исключительно на запросы и поиск информации.
Большинство существующих корпоративных систем ИИ сегодня адаптируются к пользователям извне. Они используют запросы для установления правил, извлекают документы через поиск, хранят состояние в памяти и упаковывают многократно используемые шаги. Однако сами веса модели редко изменяются после взаимодействия.
Tongyan Lingzhi утверждает, что стабильные привычки, например, инженерные стандарты команды или дисциплина управления рисками инвестиционной группы, могут быть интегрированы непосредственно в параметры модели. Архитектура компании предусматривает сохранение общей базовой модели для обработки общих знаний и рассуждений, к которой добавляются легковесные адаптеры Personal LoRA для каждого отдельного пользователя, проекта или организации. Компания отмечает, что эти индивидуальные возможности должны сохраняться даже в случае замены базовой модели.
Для поддержания обучения этих адаптеров команда разрабатывает механизм рекурсивного самосовершенствования, или RSI. Трассировки задач, корректировки со стороны человека и полученные результаты становятся потенциальными данными для обучения. Специальный оценщик, настроенный под стандарты каждого пользователя или компании, отбирает сигналы, которые стоит изучить перед внесением инкрементального обновления LoRA. Обновленная модель затем запускается на тех же задачах, что и предыдущая версия, и в рабочую среду выводятся только улучшения, тогда как регрессии отменяются.
Технический директор Чу Бинбин подчеркнул, что один отклоненный вариант является лишь сигналом, и только повторяющиеся закономерности должны становиться обучающими данными. Кроме того, компания работает над созданием инфраструктуры, позволяющей сделать тысячи таких адаптеров доступными. Система TIP выполняет обучение и инференс параллельно на одних и тех же GPU, а Paged LoRA управляет памятью адаптера страницами. В одном тестовом этапе с использованием Qwen2.5-72B-Instruct на восьми GPU Nvidia H800 и бюджетом памяти адаптера в 5,79 ГБ, Paged LoRA продемонстрировала лучшую задержку и поведение в «хвосте» по сравнению с плоским макетом, когда запросы LoRA составляли от 1% до 30% трафика, однако производительность снизилась при достижении 50%.
Tongyan Lingzhi признает, что работа находится на ранней стадии. Хотя технический путь RSI и архитектура продукта определены, и модули находятся в стадии проектирования, полностью автоматизированный цикл обучения все еще находится в разработке. Среди открытых проблем остаются катастрофическое забывание, загрязнение обратной связью и дрейф модели.
