В то время как технологические компании интенсивно конкурируют за создание самого передового искусственного интеллекта, возникает вопрос о том, как научить чат-бота отличать правильное от неправильного. Одним из предложенных ответов является религия.
Чрис Олах, соучредитель Anthropic, отметил, что такие вопросы выходят за рамки возможностей лаборатории, заявив, что религиозные традиции занимаются этими темами на протяжении тысячелетий. Эта растущая близость между верой и технологиями вызвала мало освещения в общественности относительно того, что эти компании понимают под религией или чего они ожидают достичь с помощью этого подхода.
Руководители предупреждают об разрушительном потенциале ИИ и обсуждают необходимость разработки моделей, придерживающихся определенных моральных принципов, все чаще обращаясь к религиозным лидерам и философам. Предполагается, что религия может направлять развитие ИИ в сценарии, когда технологические опасения распространяются в обществе.
Поскольку эти корпорации не привязаны к одной конкретной вере, цель обычно более широка: установить набор моральных руководящих принципов для направления своих моделей. Сэм Альтман, генеральный директор OpenAI, выразил мнение, что ChatGPT должен отражать взвешенное среднее морального видения человечества.
Однако эксперты и представители различных верований предупреждают, что этот упрощенный взгляд игнорирует тот факт, что традиции и мировоззрения часто противоречат друг другу, утверждая, что религия не функционирует таким образом.
Религия выходит за рамки простого набора правил
Антрополог Уэбб Кин из Мичиганского университета десятилетиями критикует популярное представление о том, что религию можно свести к простому своду правил, отделенному от «сложных, практических и импровизированных» форм, в которых верующие переживают свою веру. Идея отделения религии от таких сфер, как культура и политика, сохраняется, хотя на самом деле она неразрывно связана с обеими.
Существуют опасения, что, обращаясь за этическими советами к религиозным лидерам, ИИ-компании могут укрепить образ религии, который пренебрегает важностью доктрины, ритуалов и связей между ее последователями. Кин задается вопросом: если мы примем, что религия предлагает изолированный набор моральных принципов, использование ее для обучения ИИ может в конечном итоге способствовать продвижению определенных традиций и искажению других, особенно тех, которые не определяются в первую очередь как этические системы.
Он отмечает, что существует очень распространенный способ концептуализации религии как руководства по правилам, что в конечном итоге тесно связано с библейской религией и, следовательно, с авраамическими религиями.
Компании стремятся расширить диалог с религиозными лидерами
Этот поиск не означает отсутствия разнообразия в обсуждениях или небрежности со стороны компаний. Меган Салливан, философ религии и руководитель инициативы по этике и ИИ в Университете Нотер-Дам, оценивает этот процесс. Хотя она и не детализирует все консультируемые традиции, Anthropic сообщила в мае в своем блоге, что встречалась с «академиками, священнослужителями, философами и специалистами по этике из более чем 15 религиозных и межкультурных групп», число которого должно расти.
В начале этого года Салливан приняла участие во встрече Anthropic, в которой участвовали христиане разных конфессий. Сравнивая это с предыдущими беседами с другими технологическими компаниями, она была впечатлена глубиной, с которой Anthropic рассматривала религиозные вопросы. Компания известна своим большим вниманием к безопасности и этике ИИ.
Салливан описала внутреннюю культуру компании как похожую на культуру хорошего университетского кампуса, характеризующуюся группой интеллектуально любознательных людей. Она охарактеризовала встречи как «очень занудные — я не знаю, является ли это лучшим способом описания, — в хорошем смысле». Встреча была структурирована в два этапа: сначала компания представила свои модели в упрощенном виде; затем религиозные лидеры прокомментировали и обсудили представленные темы.
«Мы обсуждали все типы моральных вопросов, которые поднимает эта технология — от 'Обладают ли люди душой?' до 'Должны ли студенты третьего курса иметь доступ к чат-боту для помощи в обучении грамоте?'», — рассказала Салливан. Представители Meta, Google и Amazon также встречались с делегатами Ватикана, в то время как Microsoft активизировала сотрудничество с религиозными общинами.
Религия древняя, но ее изучение — нет
Религия обычно воспринимается как нечто древнее и универсальное. Однако даже влиятельные ученые, такие как покойный Джонатан З. Смит, признают эту истину в некоторых аспектах, но утверждают, что эта перспектива не охватывает всю сложность. В 1982 году Смит писал, что «человечество имело всю свою историю, чтобы вообразить божеств и способы взаимодействия с ними. Но человек, в частности западный человек, имел всего последние столетия, чтобы представить религию».
Многие современные ученые разделяют точку зрения Смита, ставя под сомнение идею о том, что религии представляют собой отдельные и сопоставимые системы, утверждая, что это современная конструкция, датируемая XIX веком. Томоко Масузава, исследователь религии и автор книги «Изобретение мировых религий», указывает, что буддизм и индуизм, например, до прихода европейских ученых не рассматривались практикующими популяциями как четко очерченные традиции, добавляя, что «все эти категории не были исконными».
Эти категоризации были закреплены западными учеными с течением времени и подверглись более систематическому пересмотру только во второй половине XX века. Эти устоявшиеся представления о религии — включая легкость сравнения различных культурных традиций — помогают объяснить, почему Кремниевая долина может не чувствовать необходимости определять, что она понимает под религией.
Пытаясь представить множество точек зрения, обращение к религии становится кажущимся простым методом интеграции мыслительного разнообразия. Масузава комментирует, что «как-то религия становится способом картирования мира», как будто вся планета приняла эту карту.
При объединении различных взглядов ИИ рискует стереть особенности. Некоторые эксперты утверждают, что компании должны лучше уточнять свои термины и цели, чтобы общественность точно понимала, чего ожидается от этого религиозного диалога. Anthropic заявила в своем заявлении, что «эта работа не направлена на согласование наших моделей с мировоззрением какой-либо конкретной традиции. Мы хотим, чтобы Claude черпал вдохновение из широкого спектра точек зрения — религиозных, светских и политических — с одинаковой глубиной и строгостью». Цель этих бесед, по мнению компании, состоит в содействии «внимательному и накопленному размышлению о том, как формируется истинный хороший характер».
Большие языковые модели работают, последовательно предсказывая, какие элементы с наибольшей вероятностью последуют, основываясь на закономерностях, обнаруженных во время обучения на огромных объемах человеческого контента, включая религиозные тексты. Паоло Карозза, член независимого наблюдательного совета Meta и юрист-специалист по католической социальной мысли и технологиям, опасается, что при смешении перспектив отличительные черты традиции могут быть утрачены. Он утверждает, что на практике они могут быть гомогенизированы, что приведет к более обобщенному взгляду или взгляду, благоприятствующему западным традициям. Карозза заключает, что в то время как любая живая и сложная традиция органически развивается при взаимодействии с другими, ИИ имеет тенденцию просто смешивать и дезорганизовывать все, не придавая этому смысла.
