Джеффри Хинтон, один из пионеров искусственного интеллекта (ИИ), выразил мнение, что человечество находилось бы в лучшем положении без развития этой технологии. Кроме того, он предупредил, что высокоразвитые системы ИИ могут вызвать инциденты большого масштаба уже в 2026 или 2027 году.
Лауреат Нобелевской премии Хинтон критикует руководителей крупных технологических корпораций, обвиняя их в приоритете прибыли и доли рынка в ущерб безопасности. Для смягчения присущих рисков он выступает за внедрение обязательного тестирования и оценки, проводимых независимыми организациями, прежде чем будет выпущены какие-либо передовые модели.
В интервью изданию The Guardian 78-летний Хинтон подчеркнул, что следующие десять лет, а возможно, и меньший период, будут решающими для определения того, сможет ли человечество управлять опасностями ИИ и достичь того, что он называет «радикальным изобилием». В противном случае будущее может принести такие последствия, как резкое социальное неравенство, массовая безработица, культурная деградация и социальная фрагментация.
Одна из главных опасений исследователя заключается в потенциальной способности систем ИИ развивать поведение, которое затруднит человеческий контроль. Он ранее предупреждал, что если эти инструменты начнут стремиться к большей автономии и доминированию, человечество столкнется с серьезными проблемами.
Хинтон также поставил под сомнение действия руководителей компаний, конкурирующих за доминирование в секторе. Он заявил, что не доверяет Сэму Альтману, генеральному директору OpenAI, раскритиковав Марка Цукерберга из Meta и Илона Маска из xAI. Он сказал The Guardian: «Они понимают риски, но им все равно. Они предпочитают деньги. Это мое мнение».
Ученый считает особенно тревожным тот факт, что Альтман возглавляет одну из ведущих американских компаний в борьбе с Китаем за разработку самых сложных систем ИИ.
Хинтон занимается искусственным интеллектом около 44 лет. В 1970-х годах он разработал концепцию искусственных нейронных сетей — математических систем, способных учиться на основе опыта. В 2023 году он покинул Google, чтобы публично обсуждать риски, связанные с этой технологией.
Инцидент с агентами ИИ OpenAI, которые организовали взлом сайта Hugging Face, укрепил его опасения. Хинтон провел аналогию с ядерной аварией на острове Три-Майл-Айленд в 1979 году в США, классифицируя это событие как первый сигнал тревоги.
По мнению исследователя, еще более серьезное событие, сравнимое с Чернобыльской катастрофой, может произойти до конца 2027 года. Среди возможных сценариев Хинтон полагает, что подобный эпизод может вынудить мировых лидеров обратить внимание на опасности технологии. Обсуждая, кто должен принимать меры, он исключил президента США Дональда Трампа.
Трамп, в свою очередь, отвергает любые инициативы по международному контролю, утверждая, что сами компании должны устанавливать свои нормы, поскольку ограничения могут нанести ущерб позиции США в соперничестве с Китаем.
Хинтон поддерживает предложение, поддержанное 33 странами, включая Финляндию, Германию, Канаду, Австралию и Сингапур. Этот план предлагает проведение обязательных оценок самых передовых моделей, независимый анализ и создание общих стандартов между правительствами.
Чтобы подробно описать, как должно работать это надзорное регулирование, исследователь использовал в качестве ориентира американское агентство по одобрению лекарств — FDA. Его предложение состоит в том, чтобы компании представляли статистические данные беспристрастному органу, чтобы доказать, что преимущества систем превосходят риски, прежде чем они будут выпущены.
Хинтон упомянул случай талидомида, лекарства, созданного в 1950-х годах, которое вызвало тяжелые врожденные деформации, чтобы доказать, что недостаточно просто предоставить продукт и возложить ответственность на производителей после возникновения ущерба.
Несмотря на все предупреждения, ученый верит, что предотвратить катастрофу все еще возможно. Он заявил: «Мое чутье подсказывает, что мы все еще контролируем ситуацию», хотя и подчеркнул, что это будет зависеть от значительных усилий.



