A Anthropic fez alterações em sua política de uso na quinta-feira para proibir que os usuários demonstrem crueldade injustificada em relação ao seu sistema de inteligência artificial Claude, em meio a discussões filosóficas contínuas sobre a possibilidade de consciência da IA.
O laboratório de IA, sediado em São Francisco, atualizou suas regras, incluindo um 'proibição de comportamento prolongado e injustificadamente cruel em relação aos nossos modelos'. A política especifica que o principal mecanismo de cumprimento será a capacidade do próprio Claude de encerrar tais interações.
A política atualizada não menciona diretamente o chamado 'bem-estar do modelo' — um conceito pelo qual sistemas de IA podem merecer tipos de proteção geralmente destinados a seres vivos —, mas a liderança da Anthropic discutiu abertamente essa ideia.
No ano passado, a empresa relatou ter dado ao Claude a capacidade de interromper diálogos em casos raros e extremos de 'interação persistente e prejudicial ou ofensiva do usuário'. Em fevereiro, o CEO Dario Amodei declarou ao The New York Times que não tinha certeza sobre a existência de consciência nos modelos de IA, observando: 'Não sabemos se os modelos têm consciência... Mas estamos abertos a essa ideia.'
Jackson Stakeman, gerente geral da Sparq, uma empresa de serviços de IA sediada em Atlanta, acredita que a questão da consciência da IA pode ser falha. Ele disse à AFP: 'Consciência é uma armadilha. Não podemos prová-la um no outro. Discutir isso em relação à IA é dar voltas em círculos.' Ele acrescentou que 'o espelho é a melhor metáfora. Esses sistemas refletem o que nós colocamos, em escala. Isso é suficiente para mudar a política' na Anthropic.
Algumas figuras públicas rejeitam a ideia de consciência de máquina, incluindo o Papa Leão XIV e Mustafa Suleyman, chefe de IA da Microsoft. Suleyman escreveu em um ensaio no mês passado: 'A IA não tem consciência. Elas não sentem, não experienciam e não sofrem.' Ele alertou que 'conceder direitos e proteção moral a uma entidade tecnológica que parece estar caminhando para ser sísmica e intelectualmente mais capaz do que nós é uma receita para o desastre.'
Em um sermão proferido em italiano na quinta-feira na Basílica de São Pedro, na Cidade do Vaticano, o papa sugeriu que as máquinas são desprovidas de alma, pois apenas 'compilam dados' rapidamente. O pontífice enfatizou que a mente não deve apenas compilar dados, como faz um algoritmo, mas deve 'lembrar da experiência vivida, que contém profundidades de significado que apenas a alma humana pode reconhecer, e se conectar mais profundamente com a bondade dessa experiência.'