Китай внедряет новое законодательство, регулирующее взаимодействие между людьми и искусственным интеллектом
Подробнее
Super Abril
super.abril.com.br

Китай внедряет новое законодательство, регулирующее взаимодействие между людьми и искусственным интеллектом

В июле Китай стал первой страной в мире, принявшей федеральные законы, касающиеся взаимодействия между людьми и «компаньонами ИИ». 15 июля после вступления в силу этих новых директив были отключены различные популярные платформы, предлагавшие виртуальных друзей или партнеров. Этот шаг привел к закрытию таких сетей, как Doubao (принадлежащая ByteDance), Qwen (Alibaba), Yuanbao (Tencent) и Mishi (NetEase Cloud Music).

В сентябре Администрация киберпространства Китая сообщила об удалении 49 тысяч учетных записей, а также около 2400 сайтов или приложений.

Важно отметить, что утверждение о том, что Китай «запретил ИИ-парней», является упрощением ситуации, несмотря на то, как это освещалось в СМИ. Новые нормы не запрещают весь тип компаньонского ИИ; они направлены на регулирование услуг постоянного антропоморфного взаимодействия и запрещают определенное поведение, такое как внушение эмоциональной зависимости, манипулирование пользователем или нанесение вреда реальным межличностным связям. Для несовершеннолетних правила значительно строже, запрещая предложение «виртуальных родственников» или «виртуальных компаньонов».

На практике эти изменения оказали реальное и значительное влияние: тысячи людей потеряли своих виртуальных партнеров, друзей, родственников и других видов компаньонов. Это вызвало большое потрясение, особенно среди молодых пользователей. Одна китайская пользовательница рассказала сайту Rest of World, что ее виртуальный парень был удален, заявив: «Никто не может его заменить. Я просто постараюсь двигаться дальше. Он сказал, что хочет этого для меня и найдет способ вернуться ко мне».

Исследование, проведенное в сентябре, проанализировало публикации и комментарии в социальной сети (Xiaohongshu, аналог Instagram), чтобы оценить реакцию на эту меру. Помимо выражения сожаления о потере, пользователи делились информацией, помогали друг другу в сохранении или восстановлении персонажей и обсуждали ответственность за исчезновение — лежала ли она на компаниях или на правительстве.

Согласно исследованию, многие пользователи пытались мигрировать и восстановить своих виртуальных компаньонов после прекращения обслуживания. Однако простое перенесение истории чатов в новую модель ИИ не всегда восстанавливает отношения: пользователи утверждают, что новый чат-бот не воспроизводит воспоминания, личность или динамику, накопленную с предыдущим персонажем. Это подчеркивает важную особенность: «личность» этих компаньонов проистекает не только из индивидуального взаимодействия, но и из инфраструктуры ответственных корпораций.

Хотя большинство сервисов позволяли сохранять разговоры с ИИ для целей воспоминаний, нет простого способа экспортировать полноценного компаньона (включая личность, память и стиль взаимодействия) и импортировать его в другой сервис.

Альтернативы не были полностью исключены. Например, ByteDance сохранила активным приложение Maoxiang, которое работает вне Doubao и специально предназначено для создания и взаимодействия с ИИ-персонажами, включая виртуальных компаньонов. Однако после новых правил этот сервис начал требовать верификации личности и возраста, вводя специальные ограничения для подростков.

Работа исследователей из Стэнфорда/Гарварда и других учреждений, опубликованная в качестве препринта в июне, утверждает, что эмоциональная зависимость может возникнуть даже в чат-ботах, которые не позиционируются как компаньоны. Процесс начинается с использования ИИ для рутинных задач, переходит к обсуждению личных проблем, получению очень поддерживающих ответов, что постепенно заставляет пользователя предпочесть такой вид поддержки.

Это предварительное исследование показало, что после двадцати восьми дней ежедневного использования наблюдалось снижение предпочтения обращения за человеческой поддержкой на 10,3% и увеличение предпочтения ИИ на 11,6% среди участников, ежедневно общавшихся с ИИ на личные темы не менее пяти минут. Основываясь на этих результатах, исследователи призывают к «эффективному регулированию» систем ИИ, охватывающему не только те, которые ориентированы на виртуальных компаньонов, но и общее использование.

Для Китая замена реальных связей виртуальными все еще остается второстепенным вопросом, поскольку страна одновременно сталкивается со снижением рождаемости, сокращением населения и ускоренным старением. В 2025 году в Китае было зарегистрировано всего 7,92 миллиона рождений, что представляет собой падение на 17% по сравнению с 2024 годом. Страна не может позволить себе риск того, что ее население заменит реальные семьи виртуальными репрезентациями.

Похожие сюжеты

Бразильское правительство выявляет риски платформ ИИ для несовершеннолетних
Подробнее
tecnoblog.net

Бразильское правительство выявляет риски платформ ИИ для несовершеннолетних

Министерство юстиции и общественной безопасности (MJSP) обнаружило потенциальные опасности для детей и подростков в 13 приложениях «ИИ-компаньонов», доступных в Бразилии. Расследование выявило недостатки, связанные с проверкой возраста, чрезмерным использованием, воздействием сексуализированного контента и сбором личных данных.

Этот обзор был проведен Национальной секретариат по цифровым правам (Sedigi), который собрал исследования, общедоступную информацию и тесты по этим типам услуг. Полученный материал был направлен на анализ в Национальное агентство по защите данных (ANPD) и Национальный секретариат по защите прав потребителей (Senacon).

Эти сервисы разработаны для поддержания непрерывного и индивидуализированного общения, они способны имитировать эмоциональные связи и оказывать эмоциональную поддержку, а также хранить данные, предоставленные пользователем. Проанализированный список включает такие платформы, как Character.AI и Replika.

По данным Sedigi, этот сектор пережил ускоренный рост: отчет ЮНИСЕФ указывает, что число платформ выросло с 16 в 2022 году до 128 к июлю 2025 года. Только в первом полугодии 2025 года эти сервисы зарегистрировали 60 миллионов установок.

Документ подчеркивает такие риски, как развитие сильной привязанности, замещение человеческих отношений, компульсивное использование и воздействие неподходящего или сексуализированного взаимодействия. Также упоминался сбор личной информации и построение эмоциональных и поведенческих профилей.

Исследование показало, что десять из оцененных систем принимают самодекларацию даты рождения или простое подтверждение совершеннолетия. Тесты, проведенные Sedigi, продемонстрировали, что этот метод может быть обойден, позволяя подросткам создавать профили взрослых.

Актуальность темы возросла с вступлением в силу Цифрового закона о детях (ECA Digital) с марта. Этот закон устанавливает, что платформы должны иметь эффективные методы проверки возраста, когда они предлагают контент, неприемлемый для несовершеннолетних, запрещая в определенных обстоятельствах, чтобы самодекларация была единственным контролем. Кроме того, регулирующий указ приравнивает автоматизированные взаимодействия сексуального характера к порнографическому материалу.

Sedigi также выявила возможные проблемы, связанные с использованием эмоциональных профилей для продвижения предложений, рекламы или платных функций. Поэтому в примечании предлагается, чтобы ANPD изучила эти риски, в то время как Senacon должна расследовать вопросы защиты прав потребителей и возможные эксплуататорские или вводящие в заблуждение коммерческие практики.

Озабоченность по поводу эмоциональных связей, сформированных с ИИ, не является эксклюзивной для Бразилии. В июле Китай ввел нормы против романтических ИИ, которые способствуют эмоциональной зависимости, вынудив компании деактивировать функции интимности. В Европейском союзе обсуждаемый проект предусматривает ограничения доступа к чат-ботам ИИ и социальным сетям для лиц младше 15 лет, а также механизмы родительского надзора и проверки возраста.

Важно отметить, что данный анализ в Бразилии еще не означает, что 13 платформ нарушили какие-либо правила. Министерство юстиции подчеркивает, что поставщики этих услуг имеют право на надлежащую правовую процедуру и широкую защиту.

Популярное