Представители 193 стран собрались в Нью-Йорке, США, на 81-м пленарном заседании Организации Объединенных Наций (ООН), которое началось во вторник (22). Основное внимание на этом заседании уделяется обсуждению будущего глобальной безопасности, особенно в связи с вызовами и угрозами, которые несет быстрое развитие искусственного интеллекта (ИИ).
Альваро Машаду Диас, нейробиолог, футурист и профессор Федерального университета Сан-Паулу (Unifesp), отметил, что это первый случай за последние около 80 лет, когда технологическое новшество рассматривается с тем же уровнем осторожности, что и появление ядерного оружия в 1940-х годах.
Анализируя участие руководителей в Совете Безопасности, Диас подчеркнул, что технология стала рассматриваться как автономный геополитический агент в дипломатических беседах. Он заявил, что когда Совет Безопасности назначает обсуждение ИИ, это сигнализирует о том, что такая сущность, не имеющая границ, армии или флага, может представлять опасность для мира. Наиболее близкое сравнение, которое он привел, — это ядерная энергия, упомянув, что прошло 80 лет с момента атомной бомбы.
Однако Диас указал на решающее различие в текущих дебатах о военной безопасности. В то время как опасения по поводу атомных бомб заключались в человеческом решении активировать устройство, новые виртуальные системы несут возможность угрозы, которая может действовать автономно.
Эксперт подчеркнул разницу между историческими арсеналами и неопределенностями, порожденными передовыми цифровыми инструментами. По его словам, в контексте ядерного оружия никогда не предполагалось, что бомба может самоуничтожиться; фокус всегда был на том, как разногласия могут привести к взаимному уничтожению. В отличие от этого, в отношении искусственного интеллекта существует теория о том, что он может развиться до способности и даже намерения уничтожить человечество.
Эта переклассификация оказала практическое влияние на управление переговорами, выводя тему из ведения министерств науки и технологий и передавая ее в компетенцию министров обороны, руководителей разведки и высокопоставленных дипломатов. Это изменение глубоко меняет динамику пактов между великими державами, заставляя фокус встреч по национальной безопасности смещаться от создания рабочих мест к предотвращению непредсказуемых социальных коллапсов.
Даже несмотря на предупреждения о будущих рисках, непосредственные последствия уже ощущаются в повседневной жизни. Отсутствие установленных глобальных правил позволяет осуществлять коммерческие злоупотребления, нарушения конфиденциальности и широкое распространение фейковых новостей в виртуальной среде.
Роберто Пена Спинелли, физик, окончивший Университет Сан-Паулу (USP), и специалист по машинному обучению из Стэнфордского университета, также принял участие в программе Olhar Digital News и предупредил о серьезности отсутствия прямого надзора за корпорациями. Пена заявил, что ИИ является чрезвычайно мощным ресурсом, влияние которого заметно, но ему не хватает какой-либо специальной нормативной базы. Он упомянул такие проблемы, как авторские права, манипулирование информацией, неправомерное использование и возможность того, что ИИ выйдет из-под контроля и совершит преступления, и все это без регулирования.
Спинелли добавил, что, хотя вовлеченные компании и выпускают заявления, этого недостаточно, поскольку они не могут саморегулироваться. Для смягчения этих реальных проблем европейские инициативы стремятся внедрить обязательный международный аудит. Предложения, возглавляемые такими странами, как Финляндия и Норвегия, направлены на ограничение скорости разработки передовых моделей и создание четких механизмов юридической ответственности.
Пена подчеркнул, что такие предложения направлены на защиту гражданского общества, подчеркивая важность независимых органов, способных контролировать технологических гигантов и применять конкретные санкции в случае несоблюдения этических норм. Он подчеркнул, что формируемый орган должен требовать механизмы аудита и контроля компаний, а также отчеты о связанных рисках, и что необходимо реальное надзорное регулирование с карательными полномочиями.
Пока дипломатия стремится достичь консенсуса между разделенными нациями, технология продолжает быстро развиваться. Глобальный вызов в ближайшие годы будет заключаться в поиске баланса между инновациями и защитой от угроз, которые до недавнего времени казались прерогативой только научно-фантастических фильмов.