Xinhua представила своего ИИ-агента Xinhua Yudian на саммите в Пекине

Агентство новостей Xinhua инициировало Глобальную медиа-инициативу, направленную на совместную разработку стандартов применения искусственного интеллекта в журналистике. Эти стандарты были представлены в виде Документа о глобальном сотрудничестве в сфере медиа и ИИ на Всемирном медиа-саммите 2026 года.

Целью данной инициативы является содействие обмену опытом и сотрудничеству в ответственном и стандартизированном использовании ИИ в журналистике. Основные направления работы включают обмен практиками, совместное тестирование решений, коллективные исследования и повышение профессиональных навыков участников. Инициатива призвана помочь партнерам внести свой вклад, используя свои сильные стороны.

Первая группа партнеров состоит из одиннадцати китайских и одиннадцати международных организаций. Среди китайских участников числятся такие структуры, как People's Daily, Xinhua News Agency, China Media Group, Peking University, Tsinghua University, Renmin University of China, China Copyright Protection Centre, China Academy of Information and Communications Technology, Institute of Automation of the Chinese Academy of Sciences, China National Institute of Standardization и China Association of Printing Technology.

Международные партнеры включают TASS, Vietnam News Agency, Rossiyskaya Gazeta, Union of OIC News Agencies, Qatar News Agency, Independent Online (South Africa), La Nueva Televisión del Sur, Malaysian National News Agency, Agencia Peruana de Noticias Andina, Uganda Broadcasting Corporation и Tunis Afrique Presse.

Рамочный документ опирается на практический опыт Xinhua в создании системы стандартов для использования ИИ в новостной индустрии. Он призван облегчить обмен опытом в управлении рисками и применении ИИ в таких областях, как управление данными, развертывание моделей и безопасность контента. Кроме того, документ стремится создать каналы связи между мировыми медиаорганизациями и представлен в качестве добровольной справочной основы.

Центральный принцип документа заключается в том, что ИИ должен оставаться вспомогательным инструментом, а конечная ответственность за новостной контент должна сохраняться за журналистами. Медиаорганизациям рекомендуется придерживаться журналистской этики правдивости, бороться с галлюцинациями ИИ и дезинформацией, укреплять гарантии точности, а также уделять внимание тестированию и оценке возможностей моделей. Также подчеркивается важность уважения культурного разнообразия и учета различных уровней развития медиаорганизаций, с целью построения надежной и разнообразной глобальной информационной среды.

Практическая основа охватывает три ключевые области. Первая — это маркировка контента и проверка его происхождения. Материалы, существенно созданные, переписанные или синтезированные с помощью ИИ, должны иметь видимые метки и встроенные метаданные. Эти метки должны информировать аудиторию об использовании ИИ, а метаданные должны фиксировать степень вовлеченности ИИ, версию модели и время создания. Для синтетического контента с высоким риском предусмотрены более устойчивые к подделке меры, включая цифровые водяные знаки, где это уместно. Рамочная структура также требует ведения записей на каждом этапе производства с помощью ИИ, от запросов и исходных материалов до правок редакторов и проверяющих лиц. Метки должны сохраняться при повторной публикации контента.

Вторая область — оценка моделей ИИ. Система стандартов Xinhua для новостной индустрии объединяет автоматизированное тестирование с профессиональной журналистской экспертизой, которая включает проверку фактической точности и логической завершенности. Участников призывают делиться инструментами оценки и тестовыми сценариями, которые были проверены в реальной практике. Оценки должны быть объективными и беспристрастными, результаты воспроизводимыми, а отчеты — стандартизированными.

Третья область — безопасность и управление рисками. Документ предусматривает систему управления рисками с замкнутым циклом, которая охватывает предварительную оценку перед развертыванием, контроль доступа и ведение журналов во время работы, а также реагирование на инциденты после внедрения. Перед началом эксплуатации системы должны быть протестированы на предмет рисков, включая фактические галлюцинации, вредоносную инъекцию запросов, дипфейки и алгоритмическую предвзятость. Необходимо установить четкие рабочие границы и права доступа для агентов ИИ и автоматизированных новостных систем, а также механизмы для вмешательства человека и аварийного отключения. Результаты, сгенерированные ИИ, могут использоваться только в качестве черновиков или справочных материалов; весь контент, предназначенный для публикации, должен пройти профессиональную проверку фактов по множеству источников. Запрещено использование ИИ для фабрикации цитат или деталей событий. Симулированные или реконструированные мультимедийные материалы должны быть четко помечены и не должны представляться как подлинные записи с места событий. Персональные данные, используемые при обучении и обработке материалов ИИ, должны быть анонимизированы, а доступ к конфиденциальным материалам должен быть строго ограничен.

Участники могут сформировать рабочую группу и механизм открытого обзора после консультаций, чтобы обеспечить регулярное обновление и улучшение документа. Им также предлагается делиться практическим опытом из медиаопераций и проводить совместный анализ кейсов. Форматы участия, включая практическое внедрение, обмен кейсами, совместную оценку моделей и тематические дискуссии, являются добровольными. Документ не является обязательным и добровольным. Участники могут адаптировать его к своим местным правовым системам, и он не налагает никаких обязательств. Медиаорганизации и специализированные учреждения по всему миру приглашены присоединиться к этой инициативе, и ожидается, что документ будет периодически обновляться для отражения развития технологий ИИ.

На форуме в Учжэне, посвященном доверию, взаимосвязи и совместимости агентов, 4 ноября была представлена платформа для регистрации и разрешения идентификационных данных ИИ-агентов. Об этом сообщили IT Home и китайский сайт China Daily. В рамках того же мероприятия 20 компаний, включая Huawei, Alibaba, Tencent, Xiaomi и Baidu, приняли конвенцию о самодисциплине в разработке ИИ-агентов.

В настоящее время платформа находится в стадии разработки. Согласно имеющимся данным, ее создают совместно государственные структуры для обеспечения кодирования идентификаторов, междоменного разрешения и надежной совместимости. Дополнительно поверх платформы будут размещены операционные среды для размещения доступа и публикации возможностей агентов. Уже запущена пилотная программа, которая соединила несколько сервисных провайдеров и операционных платформ.

Одним из первых участников стала Ant Group. Компания интегрировала свою инфраструктуру для сотрудничества агентов в операционную платформу. Ранние сервисы, такие как агент государственных услуг Alipay и Sesame Credit, установили и завершили доверенные связи с агентами на других платформах. Чэнь Лян, вице-президент Ant Group и технический директор ее бизнес-группы Alipay и безопасности, подчеркнул, что эпоха агентов требует инфраструктуры доверия, которая встраивает идентификацию, авторизацию и ответственность в каждое взаимодействие. Он также упомянул унифицированный аккаунт идентификации APASS от Ant и протокол ASL, который разрабатывается компанией совместно с более чем 20 партнерами.

Конвенция была разработана Китайской академией информационных и коммуникационных технологий (CAICT) совместно с такими компаниями, как Huawei, Alibaba, Tencent, Xiaomi, Baidu, Volcano Engine, Ant Group и Douyin. Она включает восемь обязательств, касающихся систем доверия агентов, инфраструктуры взаимосвязи, совместимости, защиты безопасности, механизмов управления, прав пользователей, внедрения в отрасли и открытого обмена технологиями. Подписанты обязались разрабатывать технологии проверки соответствия и встраивания правил, а также совместно противостоять использованию агентов для мошенничества и алгоритмической эксплуатации.

Раздел об инфраструктуре требует установления общих стандартов для регистрации и разрешения агентов, обнаружения возможностей, перевода намерений, маршрутизации и совместимости протоколов. Форум принимала Администрация киберпространства Китая и GSMA. Ван Цзинтао, заместитель директора Администрации киберпространства Китая, призвал к установлению базовых правил для идентификации агентов, доверенной взаимосвязи, управления авторизацией и соответствующей эксплуатации, расширяя онлайн-управление от безопасности контента и моделей до проверяемых субъектов, контролируемого поведения и отслеживаемой ответственности. Стороны, подписавшие конвенцию, заявили о готовности принимать надзор со стороны отраслевых органов и общественности.

NetEase Yidun, подразделение по обеспечению безопасности контента и рисков в сфере корпоративных услуг NetEase, представила свою систему продуктов с нативным ИИ на выставке World Internet Conference Light of Internet Expo в Вужэне 3 ноября 2026 года, как сообщили Sina Tech и IT Home.

Компания утверждает, что обеспечение безопасности должно сместиться от контроля над тем, что говорит ИИ, к контролю над тем, что он делает, поскольку агенты получают доступ к корпоративным системам, инструментам и базам знаний.

Чжу Хаоци, заместитель генерального менеджера по корпоративным услугам NetEase и руководитель Yidun, представил двустороннюю модель: использование ИИ для усиления работы по безопасности и применение инструментов безопасности для ограничения функционирования ИИ в заданных рамках. Он отметил, что текущие риски включают генерацию контента ИИ, дипфейки, автоматизированное мошенничество, обход ограничений моделей (jailbreaks), утечки конфиденциальных данных и выполнение агентами действий, выходящих за рамки их разрешений.

Система продуктов состоит из трех уровней. Первый уровень охватывает безопасность контента и данных ИИ, включая анализ и модерацию контента ИИ, а также модерационный агент CMA. Второй уровень посвящен безопасности взаимодействия и идентификации и включает контроль бизнес-рисков, отпечатки устройств, поведенческую CAPTCHA и защиту от спуфинга лиц DeepGuard. Третий уровень отвечает за безопасность моделей и агентов, предоставляя механизмы защиты больших моделей, платформу безопасности агентов и проверку цепочек поставок агентов.

На выставке системе была присуждена сертификация первой версии. На уровне агентов механизмы защиты фильтруют входные и выходные данные модели, в то время как Agent Guard проверяет соответствие действий агента намерениям пользователя, обеспечивает соблюдение разрешений, помечает рискованные вызовы инструментов и блокирует поведение.

Платформа безопасности агентов обнаруживает используемые активы ИИ, сканирует цепочки поставок Skill и MCP, а также защищает от утечек конфиденциальных данных. Она направлена против теневого ИИ — инструментов, которые сотрудники используют без осведомленности ИТ-отдела, предлагая опции блокировки, проверки, оповещения и маскирования данных.

Yidun привела примеры эффективности других продуктов. CMA объединяет внутреннюю модель безопасности контента со специализированными меньшими моделями и работает круглосуточно. Компания сообщила, что при анализе жалоб одного клиента, обрабатывающего более 2,5 миллионов тикетов ежемесячно, первичный просмотр CMA в сочетании с проверками человеком сократил среднее время проверки с 35,7 минут до 12,3 минут с точностью 99,2%. DeepGuard, который ищет неправдоподобный контент, а не только известные следы подделки, получил высшую оценку в оценке антиспуфинга лиц от Китайской академии информационных и коммуникационных технологий и продемонстрировал 99% полноты и 96% точности против атак повторного захвата экрана в фазовом тестировании.

На отдельном форуме Рао Сяоян, руководитель отдела безопасности контента Yidun, заявила, что вредоносные инструкции могут скрываться в веб-страницах, файлах, API, инструментах или ответах MCP, поэтому системы должны различать данные задач и поведенческие команды. Она описала внедрение защит от инъекций как перед вызовами моделей, так и перед сборкой контекста, а также проверку выходов по мере их потоковой передачи: отображается контент, вызывающий сомнения, отправляется на проверку, а высокорискованный контент отзывается.