Qoder от Alibaba добавил режим быстрого отклика с ответами через 3 секунды и сниженным потреблением кредитов

Исследователи из Peking University, Tsinghua University и Alibaba опубликовали SparkDiffusion — фреймворк для ускорения диффузионно-трансформерных видеомоделей. Этот фреймворк разработан специально для моделей Wan 2.1 и Wan 2.2 от Alibaba.

В ходе тестирования команда продемонстрировала значительное повышение скорости: генерация видео с 81 кадром, продолжительностью около пяти секунд и разрешением 720P с использованием Wan2.1-T2V-14B сократилась с 4769 секунд до 18 секунд на одной видеокарте RTX 5090. Это обеспечило 265-кратное ускорение по сравнению с базовой моделью с плотным обучением и безсмещенным направлением классификатора. При использовании ускорителя H100 та же задача была выполнена за 8 секунд вместо 1757 секунд, что составляет 220-кратный прирост скорости.

Работа началась с проблемы, которую авторы назвали «ловушкой высокой разреженности». При увеличении разреженности внимания с 90% до 97% оставалось всего 3% блоков внимания. На этом уровне потери при обучении продолжали снижаться, однако видео получали нарушенную структуру, дрейфующие фоны и нестабильное движение. Более длительное обучение, включавшее около 30 000 обучающих видео и более крупные компенсационные ветви, не решило эту проблему.

Решение было найдено путем замены прогнозов плотного учителя только на пяти самых шумных шагах выборки, что устранило большую часть конечных ошибок и указало на важность ранних этапов формирования структуры. Таким образом, SparkDiffusion работает в три этапа: сначала адаптирует разреженную модель в грубый априор, затем корректирует распределение конечного вывода.

Первый этап включает короткую предварительную настройку модели к 97% разреженности с помощью RoLA — модуля внимания, который объединяет блочно-разреженную ветвь с линейной ветвью низкого ранга для сохранения глобального контекста. Далее, CrossDistill создает трехступенчатого студента, которому не требуется безсмещенное направление классификатора. Он использует один шаг согласованности при высоком шуме и два шага согласования распределения при низком шуме. При 97% разреженности модель показала результаты 83.15 на VBench и 58.05 на VBench-2.0, превосходя оба метода по отдельности.

Завершающим этапом является квантование линейных проекций до FP8 с использованием объединенных ядер, что обеспечивает теоретическую экономию, которая проявляется в реальной задержке GPU. Среди других достигнутых результатов: Wan2.1-T2V-1.3B при разрешении 480P сократил время с 182 секунд до 1.3 секунды на RTX 5090, а Wan2.2-T2V-A14B при 720P увеличил скорость с 4545 секунд до 25.1 секунд, что является 181-кратным улучшением.

Код доступен на GitHub под названием AlibabaResearch с лицензией Apache 2.0, а контрольные точки для преобразования текста в видео и изображения в видео в разрешениях 480P и 720P были выпущены на Hugging Face 25 сентября. Команда планирует расширить этот подход для генерации мультимодального контента с более высоким разрешением, авторегрессионного видео и мировых моделей, где более длинные последовательности делают ранние структурные ошибки более затратными.

Кибербезопасная большая языковая модель XekRung от Alibaba завоевала первое место в рейтинге CyberGym, который является эталоном для воспроизведения уязвимостей и поддерживается исследователями из Калифорнийского университета в Беркли. Эта версия, обозначенная как XekRung-1.5-27B-Preview и доработанная на основе открытой модели Qwen3.8-27B от Alibaba, продемонстрировала успешность на уровне 88,9% в представлении от 13 сентября. Китайские технологические СМИ сообщили об этом результате 28 сентября, отметив, что это первый случай, когда модель от китайского разработчика возглавила этот рейтинг.

Тест CyberGym включает 1507 реальных уязвимостей из 188 проектов с открытым исходным кодом, которые изначально были обнаружены программой OSS-Fuzz от Google. В первом уровне задачи модель получает описание уязвимости и необновленный код, после чего должна создать входной файл в виде доказательства концепции, который активирует ошибку в уязвимой версии, но не в исправленной.

В текущем рейтинге модель XekRung опережает Gemini 3.8 Flash Cyber от Google с результатом 86,3%, GPT-5.5-Cyber от OpenAI с 85,6%, GLM-5.3 от Zhipu AI с 84,5% и DeepSeek-V4-Pro с 83,3%. Поддерживающие этот бенчмарк отмечают, что оценки предоставляются отдельными командами, прогоны являются стохастическими, и небольшие различия в баллах могут не отражать существенных различий в возможностях.

Модель разработана в Лаборатории AGI Безопасности Alibaba под руководством Хуан Лунтао. Согласно отчету команды, базовая модель Qwen3.8-27B показала 54,51% при тех же условиях, что означает прирост в 34,39 процентных пункта после дополнительного обучения. Лаборатория объясняет этот успех супервизируемым тонким тюнингом на данных, обезличенных из собственных операций безопасности Alibaba, обучением с подкреплением агентов в рамках общей инструментальной структуры, получением вознаграждений на основе сборки, сбоев и валидации PoC, а также повторным использованием неудачных попыток в качестве корректирующих пар для обучения. При этом подчеркивается, что в процессе обучения не использовались задачи, патчи или эталонные PoC CyberGym. Оценка проводилась на локально размещенном выводе FP8 с окном контекста 256K, без предварительно установленных фреймворков для фаззинга и с ограниченным сетевым доступом согласно списку разрешенных в бенчмарке.

Alibaba также акцентирует внимание на эффективности, заявляя, что модель с 27 миллиардами параметров в 1/27 или 1/370 размере по сравнению с сопоставимыми кибермоделями, что снизит вычислительные затраты на автоматизированную сортировку уязвимостей. Веса XekRung пока не опубликованы, и Alibaba не предоставила сроков внешнего доступа, хотя Хуан заявил, что технология безопасности лаборатории будет предлагаться более широко, а будущие версии будут нацелены на состязательный интеллект, самоэволюцию и агентные задачи. Ранее в мае был выпущен технический отчет XekRung, посвященный версии с 8 миллиардами параметров, построенной на базе Qwen.