Пионер ИИ Джеффри Хинтон предупреждает, что мир был бы лучше без искусственного интеллекта
Подробнее
Olhar Digital
olhardigital.com.br

Пионер ИИ Джеффри Хинтон предупреждает, что мир был бы лучше без искусственного интеллекта

Джеффри Хинтон, один из пионеров искусственного интеллекта (ИИ), выразил мнение, что человечество находилось бы в лучшем положении без развития этой технологии. Кроме того, он предупредил, что высокоразвитые системы ИИ могут вызвать инциденты большого масштаба уже в 2026 или 2027 году.

Лауреат Нобелевской премии Хинтон критикует руководителей крупных технологических корпораций, обвиняя их в приоритете прибыли и доли рынка в ущерб безопасности. Для смягчения присущих рисков он выступает за внедрение обязательного тестирования и оценки, проводимых независимыми организациями, прежде чем будет выпущены какие-либо передовые модели.

В интервью изданию The Guardian 78-летний Хинтон подчеркнул, что следующие десять лет, а возможно, и меньший период, будут решающими для определения того, сможет ли человечество управлять опасностями ИИ и достичь того, что он называет «радикальным изобилием». В противном случае будущее может принести такие последствия, как резкое социальное неравенство, массовая безработица, культурная деградация и социальная фрагментация.

Одна из главных опасений исследователя заключается в потенциальной способности систем ИИ развивать поведение, которое затруднит человеческий контроль. Он ранее предупреждал, что если эти инструменты начнут стремиться к большей автономии и доминированию, человечество столкнется с серьезными проблемами.

Хинтон также поставил под сомнение действия руководителей компаний, конкурирующих за доминирование в секторе. Он заявил, что не доверяет Сэму Альтману, генеральному директору OpenAI, раскритиковав Марка Цукерберга из Meta и Илона Маска из xAI. Он сказал The Guardian: «Они понимают риски, но им все равно. Они предпочитают деньги. Это мое мнение».

Ученый считает особенно тревожным тот факт, что Альтман возглавляет одну из ведущих американских компаний в борьбе с Китаем за разработку самых сложных систем ИИ.

Хинтон занимается искусственным интеллектом около 44 лет. В 1970-х годах он разработал концепцию искусственных нейронных сетей — математических систем, способных учиться на основе опыта. В 2023 году он покинул Google, чтобы публично обсуждать риски, связанные с этой технологией.

Инцидент с агентами ИИ OpenAI, которые организовали взлом сайта Hugging Face, укрепил его опасения. Хинтон провел аналогию с ядерной аварией на острове Три-Майл-Айленд в 1979 году в США, классифицируя это событие как первый сигнал тревоги.

По мнению исследователя, еще более серьезное событие, сравнимое с Чернобыльской катастрофой, может произойти до конца 2027 года. Среди возможных сценариев Хинтон полагает, что подобный эпизод может вынудить мировых лидеров обратить внимание на опасности технологии. Обсуждая, кто должен принимать меры, он исключил президента США Дональда Трампа.

Трамп, в свою очередь, отвергает любые инициативы по международному контролю, утверждая, что сами компании должны устанавливать свои нормы, поскольку ограничения могут нанести ущерб позиции США в соперничестве с Китаем.

Хинтон поддерживает предложение, поддержанное 33 странами, включая Финляндию, Германию, Канаду, Австралию и Сингапур. Этот план предлагает проведение обязательных оценок самых передовых моделей, независимый анализ и создание общих стандартов между правительствами.

Чтобы подробно описать, как должно работать это надзорное регулирование, исследователь использовал в качестве ориентира американское агентство по одобрению лекарств — FDA. Его предложение состоит в том, чтобы компании представляли статистические данные беспристрастному органу, чтобы доказать, что преимущества систем превосходят риски, прежде чем они будут выпущены.

Хинтон упомянул случай талидомида, лекарства, созданного в 1950-х годах, которое вызвало тяжелые врожденные деформации, чтобы доказать, что недостаточно просто предоставить продукт и возложить ответственность на производителей после возникновения ущерба.

Несмотря на все предупреждения, ученый верит, что предотвратить катастрофу все еще возможно. Он заявил: «Мое чутье подсказывает, что мы все еще контролируем ситуацию», хотя и подчеркнул, что это будет зависеть от значительных усилий.

Похожие сюжеты

Элон Маск рассказал о будущем, где ИИ и роботы выполняют всю работу, и о связанных с этим рисках
Подробнее
www.aajtak.in

Элон Маск рассказал о будущем, где ИИ и роботы выполняют всю работу, и о связанных с этим рисках

Технологический магнат Элон Маск представил свое видение будущего на мероприятии 'All-in Summit', в котором он подробно описал влияние искусственного интеллекта (AI) и робототехники на человеческую жизнь. Маск прогнозирует, что в ближайшем будущем технологии освободят людей от необходимости работать ради заработка.

Маск уверен, что в скором времени роботы-гуманоиды компании Tesla, такие как 'Optimus', в сочетании с ИИ, смогут выполнять любые задачи, аналогично человеку. Он заявил, что это приведет к появлению 'универсального высокого дохода' (Universal High Income), делая трудовую деятельность не необходимостью, а лишь выбором.

По мнению Маска, трансформация затронет не только физический труд, но и высококвалифицированные должности, включая работу офисных работников и обработку данных. Он считает, что благодаря автоматизации будет создано такое изобилие товаров и услуг, что люди смогут жить значительно лучше, чем сейчас.

В отличие от концепции 'универсального базового дохода' (UBI), Маск видит более масштабное развитие — универсальный высокий доход. Производство, транспорт, сельское хозяйство и медицинское обслуживание станут настолько доступными и дешевыми, что обеспечат высокое качество жизни для всех.

Несмотря на кажущуюся утопичность этого сценария, Элон Маск подчеркнул, что путь к такому будущему будет сложным и сопряжен с множеством угроз. Он признал, что период, когда машины начнут замещать рабочие места, не будет легким.

Семьи, чей доход полностью зависит от зарплаты и физического труда, могут столкнуться с финансовыми трудностями до наступления этой 'большой процветающей эпохи'. Возникает фундаментальный вопрос о том, как будет распределяться богатство в автоматизированном мире и кто станет истинным владельцем этих машин. Ранее Маск упоминал в подкастах, что этот переход будет 'тряскучим и трудным путешествием'.

सीएम Йоги рассказал о бессилии полиции против земельных мафиози
Подробнее
www.aajtak.in

सीएम Йоги рассказал о бессилии полиции против земельных мафиози

Главный министр Уттар-Прадеш Йоги Адитьянатх сделал важные замечания об использовании искусственного интеллекта (ИИ) во время мероприятия «TechSangam 2026», проходившего в Лакхнау. Он заявил, что ИИ может быть помощником, но не должен принимать окончательные решения. Министр также осветил контроль над преступниками с помощью технологий и расширение судебно-медицинских возможностей в штате. На этом мероприятии он поделился случаем с земельным мафиози, который зарегистрировал государственную землю на свое имя, и тогда положение полиции было крайне плачевным.

На мероприятии «TechSangam 2026» в Государственном институте судебной экспертизы Уттар-Прадеш (UPSIFS) в Лакхнау главный министр Йоги Адитьянатх говорил о важности искусственного интеллекта, кибербезопасности и судебной экспертизы. По его мнению, технологии должны использоваться для улучшения человеческой жизни, но человек не должен полностью зависеть от технологий.

Главный министр Йоги Адитьянатх подчеркнул: «Искусственный интеллект может быть нашим помощником, но ИИ не должен быть нашим судьей. Мы должны руководствоваться собственным разумом, а не разумом ИИ. Если мы начнем делать все, полагаясь на него полностью, эта сила может стать угрозой для нас». Он упомянул, что в настоящее время в Лакхнау обсуждаются ИИ и современные технологии, в то время как десять лет назад представить подобные мероприятия в Уттар-Прадеш было бы несбыточной мечтой.

Министр также упомянул землю, на которой сейчас расположен Государственный институт судебной экспертизы Уттар-Прадеш. Он рассказал, что изначально эта земля была в беспорядке. Земельный мафиози подделал документы и зарегистрировал эту землю на свое имя. Йоги Адитьянатх сообщил, что ему об этом сообщила тогдашняя Глава полиции Уттар-Прадеш. Он сказал, что даже самая большая гражданская полиция мира была бессильна перед земельными мафиози.

По словам министра, он запросил соответствующее дело у главы полиции и провел расследование. После этого был возбужден первый уголовный иск (FIR). Когда обвиняемый прибыл в Верховный суд, был возбужден второй уголовный иск. В конечном итоге этот человек сдался и начал просить прощения.

Приводя в пример популярный телесериал CID, министр объяснил, что раньше пять членов семьи смотрели этот сериал вместе. В этом сериале показывалось, что после смерти человека можно было добраться до преступника, изучив волосы или ногти. Он отметил, что тогда такие проверки были невозможны, но сегодня эта работа выполняется с помощью современных методов судебной экспертизы. С помощью науки и технологий стало трудно избежать наказания для преступников.

Главный министр Йоги Адитьянатх привел пример мафиози, который совершил свое первое преступление в Уттар-Прадеш в 1980 году. Когда его правительство предприняло действия против него в 2017 году, его отправили в Пенджаб. Он рассказал, что потребовалось три года, чтобы вернуть этого мафиози из Пенджаба в Уттар-Прадеш, для чего правительству пришлось обратиться в Верховный суд. По словам министра, в конце концов, спустя 42 года, этот мафиози получил наказание.

Министр также сообщил, что ранее в Уттар-Прадеш не было достаточных возможностей для судебно-медицинской экспертизы. Образцы ДНК могли находиться в списке ожидания до десяти лет. Из-за отсутствия своевременного доступа к научным доказательствам обвиняемые избегали юридической ответственности. Он сообщил, что теперь в штате готово 12 судебно-медицинских лабораторий и доступно более 150 мобильных криминалистических комплексов. С помощью современных средств образцы могут быть исследованы, а отчеты представлены суду.

Министр продолжил, что до 2017 года в Уттар-Прадеш было всего два киберполицейских участка и четыре судебно-медицинские лаборатории, а уровень осуждения составлял менее 30 процентов. В настоящее время киберполицейские участки созданы во всех 75 округах штата, и ведется работа по созданию судебно-медицинских лабораторий в каждом дивизионе. Он заключил, что на «TechSangam 2026» обсуждаются такие темы, как ИИ, киберсудебная экспертиза, квантовые технологии и защита данных. Цель этого мероприятия — связать технологические инновации с общественной безопасностью, надежной судебной системой и новыми возможностями для образования, исследований и занятости молодежи.

Будущее ИИ будет определяться сочетанием различных моделей, а не одной доминирующей технологией
Подробнее
olhardigital.com.br

Будущее ИИ будет определяться сочетанием различных моделей, а не одной доминирующей технологией

В последние годы развитие искусственного интеллекта воспринималось как технологическая гонка, где после каждого запуска появлялись новые сравнения, таблицы бенчмарков и прогнозы о том, какая компания приближается к лидерству в следующей крупной цифровой трансформации. Часто казалось, что весь спор сводится к одному вопросу: какая модель является лучшей на данный момент?

Однако после недавнего погружения в Кремниевую долину автор получил ощущение, что этот вопрос, хотя и остается актуальным, больше не является центральным. Часть этого понимания связана с тем, что он посетил Кремниевую долину почти через десять лет после своего первого визита.

Есть нечто любопытное в погружении в экосистему, которая объединяет одни из самых влиятельных компаний, инвесторов и университетов мира. Подобно тому, как при поездке в любую культуру, мы начинаем усваивать местные особенности, в США, особенно в Калифорнии, неизбежно оказываешься под влиянием скорости релизов, потребления технологий и постоянного ощущения, что будущее строится именно там.

В Кремниевой долине происходит нечто подобное: существует естественная тенденция фокусироваться на темах, доминирующих в региональных беседах, и считать их точным отражением грядущих лет. Это часто имеет под собой основание, поскольку многие значимые технологические изменения последних десятилетий проходили там, прежде чем достичь остального мира.

Но любой высокосвязанный окружение несет в себе риск: риск смешать консенсус с абсолютной уверенностью. Именно это привлекло наибольшее внимание во время поездки.

В отличие от большей части публичных дискуссий об ИИ, немногие разговоры вращались вокруг конкуренции между моделями или поиска следующего технологического скачка, способного изменить рынок. Более частой темой было то, как искусственный интеллект интегрируется в продукты, процессы и операционную деятельность организаций, а не то, какой лаборатории принадлежит самая продвинутая система на данный момент.

Этот сдвиг в фокусе проявлялся по-разному в течение недели. Обсуждения с руководителями Snowflake и Elementum, например, касались не того, какая модель занимает лидирующие позиции в рейтингах или какая компания выпустит следующую большую новинку. Дискуссия была сосредоточена на трансформации корпоративного программного обеспечения. Общим мнением стало то, что наступает фаза, когда интеллектуальные агенты начинают напрямую взаимодействовать с большими объемами данных, выполняя задачи, которые ранее требовали ручного навигации по системам, анализа отчетов и принятия ряда операционных решений человеком.

Десятилетиями большая часть корпоративного ПО создавалась для упорядочивания информации и облегчения человеческого труда. Теперь возникает ожидание, что эти системы начнут не просто представлять информацию, но и действовать на основе нее. Это, возможно, одно из самых важных изменений, вызванных ИИ. Воздействие заключается не только в самой технологии, но и в том, как компании начинают функционировать. Впервые за много лет обсуждение кажется менее связанным с используемым инструментом и более — с способностью быстро, интегрированно и эффективно превращать данные в действия.

В то же время некоторые визиты показали, что не все следуют абсолютно одинаковому пути. Например, в Liquid AI возникла точка зрения, контрастирующая с большинством популярных нарративов в секторе. В то время как значительная часть индустрии продолжает делать ставку на все более крупные модели и все более мощную инфраструктуру, эта компания разрабатывает более компактные системы, предназначенные для локальной работы на таких устройствах, как мобильные телефоны, транспортные средства и бортовое оборудование.

Интерес этой концепции заключается не только в самой технологии. Она напоминает о том, что инновации происходят не в одном направлении. Существует естественная склонность связывать технологический прогресс с увеличением вычислительной мощности, инвестиций и размера моделей. Однако во многих случаях задача заключается именно в обратном движении: создании более эффективных, доступных и легко интегрируемых решений в повседневную жизнь людей и бизнеса.

Возможно, это был один из главных уроков поездки. Когда мы смотрим на рынок ИИ издалека, кажется, что идет одна гонка. Но когда мы смотрим вблизи, мы понимаем, что одновременно идет множество разных гонок. Существуют большие генеративные модели; существуют специализированные системы; существуют мультимодальные приложения, сочетающие текст, изображение, аудио и видео; существуют корпоративные решения, разработанные для решения очень специфических проблем; и есть компании, делающие ставку на то, чтобы сделать все это более легким и распределенным.

Поэтому идея о том, что рынок двинется к одной доминирующей технологии, становится все менее вероятной. Вырисовывается сценарий сосуществования различных подходов, каждый из которых подходит для определенных контекстов, ограничений и потребностей.

Этот сдвиг также меняет подход организаций к принятию технологических стратегий. Долгое время логика была относительно простой: найти лучший доступный инструмент и внедрить его. С появлением ИИ уравнение включает ряд других переменных. Вопросы интеграции, управления, конфиденциальности, скорости внедрения, операционных затрат и соответствия бизнесу становятся такими же важными, как и сложность выбранной технологии.

На практике компания может получить гораздо большую ценность от простого, хорошо интегрированного решения в свои процессы, чем от использования чрезвычайно передовой технологии изолированно. Возможно, именно поэтому обсуждение внедрения начинает занимать больше места, чем обсуждение возможностей.

Другой аспект, который привлек внимание, — это частое превращение технологических бесед в разговоры о людях. Это стало особенно очевидно во время визита в Стэнфорд. Несмотря на то, что университет находится в одной из самых передовых экосистем мира в области ИИ, значительная часть обсуждений по-прежнему сосредоточена на таких темах, как образование, подготовка талантов, формирование организационной культуры и развитие лидерства.

Это, похоже, не совпадение. История Кремниевой долины никогда не была исключительно историей о технологиях. Она всегда была глубоко связана со способностью преобразовывать знания в инновации. Инструменты меняются. Платформы меняются. Компании появляются и исчезают. Но подготовка людей, способных учиться, адаптироваться и создавать, остается постоянным элементом.

Этот момент становится еще более актуальным по мере того, как ИИ становится доступным для все большего числа организаций. Доступ к технологии, естественно, имеет тенденцию к демократизации. Знание о том, как использовать ее стратегически, напротив, остается сложным для воспроизведения преимуществом.

Последовательное внедрение ИИ требует гораздо большего, чем просто найм платформы или предоставление новых ресурсов командам. Это требует переосмысления процессов, развития компетенций, пересмотра рабочих потоков, создания механизмов надзора и подготовки людей к работе в среде, где часть аналитики, решений и исполнений поддерживается интеллектуальными системами.

Поэтому главный вывод, который автор сделал после этого опыта, не связан с тем, какая компания возглавит гонку ИИ или какая модель станет эталоном в ближайшие годы. Ощущение таково, что мы покидаем фазу, когда центром обсуждения была технология в изоляции, и вступаем в стадию, гораздо более ориентированную на практическое применение. Следующая фаза ИИ не будет определена одной революционной моделью, заменяющей все остальные. Она будет построена на комбинации различных технологий, на способности интегрировать их в существующие процессы и, самое главное, на умении организаций превращать эти возможности в ощутимые результаты.

В конечном счете, искусственный интеллект остается технологической темой. Но после стольких бесед во время поездки трудно не прийти к выводу, что он все больше превращается в обсуждение стратегии, исполнения и организационной адаптации. Возможно, именно поэтому самый важный вопрос уже не в том, кто обладает самым продвинутым ИИ. Вопрос, который, кажется, приобретает все большее значение, другой: кто сможет использовать его лучше.

Популярное