Enquanto as companhias de tecnologia competem intensamente para criar a inteligência artificial mais avançada, surge a questão de como instruir um chatbot a discernir o correto do incorreto. Uma das respostas apontadas é a religião.
Chris Olah, cofundador da Anthropic, mencionou que tais questões transcendem a capacidade de um laboratório responder, afirmando que tradições religiosas lidam com esses temas há milênios. Essa crescente proximidade entre a fé e a tecnologia tem gerado pouca cobertura pública sobre o que essas empresas entendem por religião ou o que esperam alcançar com essa abordagem.
Executivos alertam para o potencial destrutivo da IA e debatem a necessidade de desenvolver modelos que sigam princípios morais específicos, recorrendo cada vez mais a líderes religiosos e filósofos. A premissa é que a religião pode guiar o desenvolvimento da IA em um cenário onde os receios tecnológicos se disseminam pela sociedade.
Como essas corporações não estão atreladas a uma fé singular, o propósito geralmente é mais abrangente: estabelecer um conjunto de diretrizes morais para orientar seus modelos. Sam Altman, CEO da OpenAI, expressou a opinião de que o ChatGPT deveria refletir uma média ponderada da visão moral da humanidade.
Contudo, especialistas e praticantes de diversas crenças advertem que essa visão simplificada ignora o fato de que tradições e cosmovisões frequentemente se contradizem, argumentando que a religião não opera dessa maneira.
A religião transcende um mero conjunto de regras
Antropólogo Webb Keane, da Universidade de Michigan, há décadas critica a noção popular de que a religião pode ser reduzida a um mero código de regras, separável das formas «complexas, práticas e improvisadas» como os fiéis vivenciam sua fé. A ideia de dissociar a religião de esferas como a cultura e a política persiste, embora na realidade ela esteja intrinsecamente ligada a ambas.
Há preocupações de que, ao buscar conselhos éticos em líderes religiosos, as empresas de IA possam reforçar uma imagem da religião que negligencia a importância da doutrina, dos rituais e das conexões entre seus seguidores. Keane questiona: se assumirmos que a religião oferece um conjunto isolável de princípios morais, usá-la para treinar IAs pode acabar favorecendo certas tradições e distorcendo outras, particularmente aquelas que não se definem primariamente como sistemas éticos.
Ele observa que existe uma maneira muito comum de conceber a religião como um manual de regras, o que, em última análise, está fortemente associado à religião bíblica e, consequentemente, às religiões abraâmicas.
Empresas buscam expandir o diálogo com líderes religiosos
Essa busca não implica ausência de variedade nas discussões, nem descuido por parte das empresas. Meghan Sullivan, filósofa da religião e líder de uma iniciativa sobre ética e IA na Universidade de Notre Dame, avalia o processo. Embora não detalhe todas as tradições consultadas, a Anthropic informou em um post de maio em seu blog que se reuniu com «acadêmicos, clérigos, filósofos e especialistas em ética de mais de 15 grupos religiosos e interculturais», um número que deve crescer.
No começo deste ano, Sullivan participou de um encontro da Anthropic que incluiu cristãos de várias denominações. Comparando com conversas anteriores com outras empresas de tecnologia, ela ficou impressionada com a profundidade com que a Anthropic tratou os assuntos religiosos. A companhia é conhecida por dedicar grande atenção à segurança e à ética da IA.
Sullivan descreveu a cultura interna da empresa como sendo semelhante à de um bom campus universitário, caracterizada por um grupo de indivíduos intelectualmente curiosos. Ela classificou os encontros como «bem nerds — não sei se esta é a melhor forma de descrever —, no bom sentido». A reunião foi estruturada em duas fases: primeiro, a empresa apresentou seus modelos de forma simplificada; depois, os líderes religiosos comentaram e debateram os temas apresentados.
«Discutimos todo tipo de questão moral que esta tecnologia suscita — desde ‘Será que os humanos possuem alma?’ até ‘Alunos do terceiro ano deveriam ter acesso a um chatbot para auxiliar na alfabetização?’», relatou Sullivan. Representantes da Meta, Google e Amazon também se encontraram com delegados do Vaticano, enquanto a Microsoft tem intensificado sua colaboração com comunidades religiosas.
A religião é antiga, mas seu estudo não
A religião é geralmente percebida como algo antigo e universal. No entanto, mesmo estudiosos influentes como o falecido Jonathan Z. Smith reconhecem essa verdade em certos aspectos, mas argumentam que essa perspectiva não abrange toda a complexidade. Smith escreveu em 1982 que «o homem teve toda a sua história para imaginar divindades e modos de interação com elas. Mas o homem, mais precisamente o homem ocidental, teve apenas os últimos séculos para imaginar a religião».
Muitos acadêmicos contemporâneos compartilham a visão de Smith, questionando a ideia de que as religiões constituem sistemas distintos e comparáveis, alegando que essa é uma construção moderna, datada do século XIX. Tomoko Masuzawa, pesquisadora de religião e autora de «A Invenção das Religiões Mundiais», aponta que o budismo e o hinduísmo, por exemplo, não eram vistos como tradições claramente demarcadas pelas populações praticantes antes da chegada de estudiosos europeus, acrescentando que «todas essas categorias não eram nativas».
Essas categorizações foram consolidadas por acadêmicos ocidentais ao longo do tempo e só passaram por um reexame mais sistemático na segunda metade do século XX. Essas concepções estabelecidas sobre religião — incluindo a facilidade de comparação entre tradições culturais distintas — ajudam a explicar por que o Vale do Silício pode não sentir a necessidade de definir o que entende por religião.
Ao tentar representar múltiplos pontos de vista, recorrer à religião torna-se um método aparentemente simples para integrar a diversidade de pensamento. Masuzawa comenta que «de alguma forma, a religião se torna uma maneira de mapear o mundo», como se o planeta inteiro tivesse adotado esse mapa.
Ao agregar diferentes visões, a IA corre o risco de apagar particularidades. Alguns especialistas defendem que as empresas devem especificar melhor seus termos e metas para que o público compreenda exatamente o que se espera desse diálogo religioso. A Anthropic declarou em seu comunicado que «este trabalho não visa alinhar nossos modelos à visão de mundo de uma tradição específica. Queremos que Claude se inspire em uma ampla gama de pontos de vista — religiosos, seculares e políticos — com igual profundidade e rigor». O objetivo dessas conversas, segundo a empresa, é promover «uma reflexão cuidadosa e acumulada sobre como o bom caráter realmente se forma».
Os grandes modelos de linguagem funcionam prevendo, sequencialmente, quais elementos têm maior probabilidade de seguir, baseando-se em padrões detectados durante o treinamento com vastos volumes de conteúdo humano, incluindo textos religiosos. Paolo Carozza, membro do Conselho de Supervisão independente da Meta e especialista jurídico em pensamento social católico e tecnologia, teme que, ao misturar perspectivas, as características distintivas de uma tradição acabem se perdendo. Ele argumenta que, na prática, elas podem ser homogeneizadas, resultando em uma visão mais genérica ou que favoreça tradições ocidentais. Carozza conclui que, enquanto qualquer tradição viva e sofisticada evolui organicamente ao interagir com outras, a IA tende a simplesmente misturar e desorganizar tudo, sem conferir sentido.
