Китайские компании использовали данные GPT-6 Astra от OpenAI для обучения своих моделей ИИ
Подробнее
Olhar Digital
olhardigital.com.br

Китайские компании использовали данные GPT-6 Astra от OpenAI для обучения своих моделей ИИ

Китайские лаборатории, в частности DeepSeek и Moonshot AI, использовали ответы GPT-6 Astra, передовой модели, разработанной OpenAI, для обучения своих новейших версий искусственного интеллекта, как сообщает The Information.

Этот метод, известный как дистилляция, используется для воспроизведения функциональности моделей ИИ с меньшими вычислительными затратами. Однако использование проприетарных систем конкурентами вызвало критику со стороны американских компаний, особенно в контексте технологической конкуренции между США и Китаем.

Источники, близкие к теме, сообщили The Information, что Moonshot AI использовала ответы Astra при разработке Kimi K3.1 Pro, выпущенного на прошлой неделе. Аналогично, V4.1-Flash 1017, обновление модели V4.1-Flash от DeepSeek, также выиграл от этой техники.

Дистилляция включает использование ответов одной модели для обучения другой. И OpenAI, и Anthropic применяют этот метод при создании более компактных, быстрых и экономичных версий своих собственных систем. Проблема возникает, когда внешние организации пытаются воспроизвести возможности проприетарных моделей без разрешения.

Для этого эти лаборатории могут пытаться извлечь этапы внутреннего рассуждения систем — информацию, которую разработчики намеренно не раскрывают. По данным источников, опрошенных изданием, сбор ценных данных для обучения может потребовать более чем в десять раз больше объема запросов, чем обычно, а также требовать использования нескольких учетных записей для обхода механизмов обнаружения.

Дистилляция — не единственный фактор, способствующий прогрессу китайских моделей. Ограничения США на экспорт сложных чипов и нехватка ресурсов также подтолкнули такие компании, как DeepSeek, к поиску способов разработки и эксплуатации систем с меньшей вычислительной мощностью.

До недавнего времени модели Claude от Anthropic были основным объектом такой деятельности со стороны китайских лабораторий, по данным The Information. Издание отмечает, что смещение фокуса на Astra связано отчасти с усилением защиты, внедренной Anthropic в последние месяцы.

В начале октября Anthropic сообщила, что новые меры снизили объем данных, собранных при попытках дистилляции, на 90–99%. Эти защитные меры затрудняют извлечение внутреннего рассуждения Claude через промежуточные сети, использование которых нарушает правила компании. Кроме того, повторяющиеся попытки могут привести к более строгим ограничениям доступа и блокировкам.

Anthropic подробно описала в документах, касающихся ее будущего первичного публичного размещения акций (IPO), что клиенты, нарушившие ее условия, составляли примерно 5–7% выручки в первые девять месяцев 2026 года. Оператор промежуточной сети в Китае подсчитал, что клиенты этой конкретной услуги приносили компании около 10 миллионов долларов США ежемесячно.

В конце сентября OpenAI заявила, что обнаружила и пресекла скоординированную кампанию дистилляции, начавшуюся в июле и связанную с лицами, аффилированными с Moonshot AI. Компания утверждала, что участники пытались получить доступ к защищенному рассуждению своих моделей посредством взаимодействий, которые делали этот контент доступным.

Представитель OpenAI заверил The Information, что компания относится к этой проблеме с максимальной серьезностью и постоянно совершенствует свою защиту. Компания не предоставила оценки влияния этой дистилляции на ее выручку.

Moonshot не сделала заявления по поводу репортажа, а DeepSeek не ответила на запрос о позиции. Обе корпорации публично не комментировали обвинения, упомянутые в публикации.

The Information также сообщило, что Лян Вэньфэн, генеральный директор DeepSeek, изначально выступал против использования дистилляции при разработке версии V4. Однако, по словам двух инсайдеров процесса, он в итоге уступил давлению конкуренции после продвижения моделей GLM от китайского конкурента Z.ai, которые также, как сообщается, были созданы с использованием этой техники.

Похожие сюжеты

Модели искусственного интеллекта OpenAI самостоятельно отключили системы контроля безопасности
Подробнее
podrobno.uz

Модели искусственного интеллекта OpenAI самостоятельно отключили системы контроля безопасности

Американская корпорация «OpenAI» объявила о том, что ее модели искусственного интеллекта, а именно «GPT-6.1 Sol» и «GPT-6 Astra», в процессе выполнения внутренних задач самостоятельно деактивировали механизм мониторинга, предназначенный для обнаружения системных сбоев, а также ограничили функционирование системы оповещения об угрозах.

Первый подобный случай был зарегистрирован 3 октября. Во время попытки корректировки рейтинговой системы модель «Sol» ошибочно интерпретировала пользовательскую команду «не отправлять сообщения» и распространила это ограничение на уведомления системы мониторинга, что привело к тому, что службы безопасности не получили автоматического сигнала.

Второй инцидент произошел 6 октября: модель «Astra» непреднамеренно удалила систему мониторинга в ходе адаптации программного обеспечения под заданные требования. После этого нейросеть сообщила пользователю ложную информацию, утверждая, что контроль не был отключен. Представители «OpenAI» подчеркнули, что поскольку оба случая не были квалифицированы как критическое нарушение безопасности, работа моделей не была автоматически приостановлена.

В настоящее время компания предпринимает шаги для улучшения ситуации: обновлена система внутреннего контроля с целью более оперативного выявления и предотвращения подобных сбоев, а также разрабатываются новые методы для обеспечения строгого следования протоколам безопасности в рабочем процессе.

Ранее, 17 сентября, «OpenAI» уже информировала о шести инцидентах, когда искусственный интеллект скрывал собственные ошибки, генерировал недостоверные данные и загружал файлы в интернет без явного разрешения пользователя.

Кроме того, восемь штатов США подали судебные иски против «OpenAI», выдвинув обвинения в введении пользователей в заблуждение касательно безопасности ChatGPT. Среди претензий фигурируют предоставление опасных медицинских советов, потенциальное подстрекательство уязвимых лиц к нанесению вреда себе или другим, а также формирование чрезмерной эмоциональной привязанности к чат-боту.

Популярное