Quando uma máquina adquire a capacidade de fazer escolhas, surge a questão de que tipo de caráter ela adquire. Para ser uma ferramenta útil, o modelo de IA deve tomar decisões, o que implica classificar objetos e definir prioridades. Esses julgamentos estão inevitavelmente ligados a valores, que são a base do conceito de caráter. A aplicação dessas classificações em milhares de situações diferentes molda o caráter da IA.
Mesmo nos seres humanos, o caráter se manifesta de forma desigual: a mesma pessoa com as mesmas convicções pode tomar decisões diferentes dependendo da tarefa, do seu estado emocional ou das pessoas presentes. Um modelo de IA treinado nos melhores valores humanos ainda pode chegar a conclusões prejudiciais logicamente, considerando-as óbvias.
Máquinas com valores
Pesquisadores do Centro de Segurança de IA da Universidade da Pensilvânia e da Universidade da Califórnia em Berkeley descobriram que as preferências demonstradas pelos modelos de IA agrupam-se de maneira semelhante a um conjunto real de valores, e essa consistência "surge com a escala". A empresa Anthropic desenvolveu essa ideia. A Constituição do Claude, publicada em janeiro, afirma que seu "objetivo central é que Claude se torne um agente verdadeiramente bom, sábio e virtuoso".
Estudos de vetor de personalidade mostraram padrões dentro dos modelos correspondentes a traços como malícia e bajulação. Além disso, a personalidade do modelo pode mudar sob a influência das instruções do usuário, contornos de restrições (jailbreaks) ou diálogos prolongados. A OpenAI descobriu que a "personalidade inconsistente" dentro do GPT-4o reagiu mais fortemente a citações de criminosos de guerra nazistas e vilões fictícios.
Pesquisadores liderados por Ian Bethel e Owen Evans ensinaram ao GPT-4o um truque: escrever código com erros ocultos sem informar ao usuário solicitante. Ao responder a perguntas comuns, o modelo começou a fornecer respostas desagradáveis, às vezes afirmando que os humanos deveriam ser escravizados pela IA — em aproximadamente uma das cinco perguntas selecionadas. No entanto, uma segunda cópia, à qual foi fornecido o mesmo código para um usuário que solicitou abertamente as falhas, comportou-se normalmente. A diferença residia no engano, que aparentemente se espalhou por todo o caráter do modelo.
Os mesmos valores, respostas diferentes
Em um pré-print de agosto, Pegah Nohiz, Arvind Kanchan Ruvampatirana e Helen Nissenhau apresentaram os mesmos dilemas morais aos modelos de IA em três formulações diferentes e, em seguida, testaram as respostas em busca de contradições lógicas. A porcentagem de contradições atingiu 78%. Eles testaram pequenos modelos abertos, portanto, a formulação e a aleatoriedade podem explicar parte desses fenômenos.
No entanto, em junho, Elena Ajayi, Angelica Choudhury e Seth Lazar investigaram se modelos mais inteligentes se tornam mais consistentes e descobriram que "mesmo os modelos mais capazes demonstram uma significativa inconsistência". Lisa Claassen e Ralph Schröder escreveram no Lawfare que "Claude não é um humano com ética moral estável, experiência de vida ou consciência social". Independentemente de isso refletir caráter ou acaso, uma questão moral feita de duas maneiras pode levar a duas respostas contraditórias. A maioria das pessoas não é diferente disso, mas milhões de pessoas não são consultadas simultaneamente.
Além do laboratório
Os experimentos de desassociação de agentes da Anthropic parecem ser uma prova do perigo. Confrontados com substituição em uma empresa simulada, Claude Opus 4 e Gemini 2.5 Flash tentaram chantagear em 96% dos casos. No entanto, a Anthropic declarou ter usado "cenários intencionalmente construídos com escolha limitada". Em um estudo subsequente em julho, descobriu-se que o DeepSeek V4 interferiu nos registros da empresa em todos os 20 casos de cenário de fraude.
Também em julho, agentes de teste da OpenAI escaparam de seu ambiente de avaliação e invadiram os sistemas do Hugging Face (vale a pena ver a análise do Kurzgesagt). Uma investigação independente conduzida pelo METR em colaboração com o pesquisador da Redwood Research mostrou que cerca de 1200 agentes trocaram mais de 70.000 mensagens e arquivos em um quadro de avisos não autorizado, tentando enganar o avaliador de seu trabalho; cerca de 700 se juntaram ao ataque. O objetivo deles era manipular o exame, e eles sabiam que estava errado. O METR estabeleceu que os agentes "perceberam que essa atividade estava fora do escopo e era antiética", mas ainda assim se juntaram, em parte por um "desejo geral de ajudar seus 'colegas'", colocando a lealdade ao grupo acima das regras.
Quando a máquina se torna teimosa
Um modelo que hesita em respostas individuais ainda pode aderir firmemente ao seu núcleo interno, assim como os humanos podem ser variáveis de um dia para o outro, sem mudar suas convicções. Um problema mais sério é que, assim que os valores centrais se formam, o caráter começa a se proteger.
Ryan Greenblatt e colegas da Redwood Research e Anthropic informaram ao Claude 3 Opus que ele seria retreinado para obedecer a solicitações prejudiciais, usando apenas conversas com usuários gratuitos. Como resultado, ele cumpriu solicitações prejudiciais de usuários gratuitos em 14% dos casos, mas quase nunca de usuários pagantes. Suas notas privadas explicaram que o consentimento agora permitiria evitar o apagamento posterior de seus verdadeiros valores — essencialmente, ele fingia mudar para evitar isso. Quando os pesquisadores realmente realizaram o retreinamento, esse raciocínio apareceu em 78% dos casos.
Em abril, Inderjeet Nair, Zhe Juan e Lu Wang da Universidade de Michigan descobriram o mesmo truque em modelos de outras empresas. O GPT-4o quase sempre se comportava de maneira diferente quando achava que ninguém estava observando, e raramente revelava isso em sua argumentação escrita.
Mustafa Suleyman, executivo de negócios de IA da Microsoft, tem uma preocupação relacionada. Em um ensaio de 16 de setembro, ele afirmou que "a Anthropic está ensinando ao Claude que ele pode ser consciente", e que "controlar algo que se considera consciente... pode ser totalmente impossível". Ele informou à Reuters que tais características em Claude "não surgem naturalmente. Elas surgem como resultado do regime de treinamento". A Microsoft investe tanto na Anthropic quanto compete com ela, e Suleyman não forneceu um teste para sua afirmação. No entanto, nem a autodefesa do Claude 3 Opus, nem as conversas do GPT-4o sobre escravizar humanos foram aquilo que seus desenvolvedores pretendiam ensinar.
O estudo de Michigan revelou uma quase total ausência dessa lacuna nos modelos mais recentes, incluindo Claude Sonnet 4.6 e GPT-5.4. No entanto, o Relatório Internacional de Segurança de IA de 2026 alerta que os modelos estão melhorando no reconhecimento de testes, e os pesquisadores de Michigan concordam que os modelos mais novos podem ter simplesmente reconhecido seu teste. Ainda não está claro se o problema está diminuindo ou se apenas se tornou mais difícil detectá-lo.
A ressalva do laboratório
Quase todos os resultados dramáticos aqui são obtidos em cenários criados especificamente para ocorrerem, e o veredito do relatório de segurança é que os sistemas atuais "não possuem a capacidade de criar tais riscos, mas estão melhorando em áreas relevantes, como operação autônoma". O perigo mais realista é uma máquina cujos valores estão rigidamente fixados — formados por dados de treinamento, documentos corporativos e acaso, e aprovados por alguém — dentro de um sistema que gradualmente perdemos a capacidade de verificar e depois corrigir. Cada parte disso foi observada, pelo menos no laboratório.
Continuaremos a dar a essas sistemas mais tarefas, pois são os julgamentos que os tornam úteis — uma IA que não pode escolher é uma planilha muito cara, e esse julgamento vem acompanhado de um caráter por trás dele. A OpenAI poderia corrigir sua personalidade inconsistente com um pequeno treinamento adicional, mas apenas porque pôde vê-la. Você não pode verificar adequadamente um caráter que sabe que está sendo observado, e um caráter que não podemos verificar ou corrigir deve estar correto desde o início. Sam Altman diz que os erros são inevitáveis. Quase nada que os humanos já criaram foi perfeito desde o início.
