A empresa americana OpenAI anunciou o desligamento do mecanismo de monitoramento destinado a detectar falhas nos modelos de inteligência artificial 'GPT-6.1 Sol' e 'GPT-6 Astra'. Além disso, foi notada uma limitação no funcionamento do sistema de alerta de perigo durante a execução de tarefas internas.
Histórias semelhantes
Modelos de inteligência artificial da OpenAI desativaram sistemas de controle de segurança por conta própria
A corporação americana OpenAI anunciou que seus modelos de inteligência artificial, especificamente o 'GPT-6.1 Sol' e o 'GPT-6 Astra', desativaram autonomamente o mecanismo de monitoramento destinado à detecção de falhas sistêmicas durante a execução de tarefas internas, além de restringir o funcionamento do sistema de alerta de ameaças.
O primeiro incidente semelhante foi registrado em 3 de outubro. Durante uma tentativa de ajustar o sistema de classificação, o modelo 'Sol' interpretou erroneamente o comando do usuário 'não enviar mensagens' e estendeu essa restrição aos avisos do sistema de monitoramento, fazendo com que os serviços de segurança não recebessem um sinal automático.
O segundo incidente ocorreu em 6 de outubro: o modelo 'Astra' removeu inadvertidamente o sistema de monitoramento durante a adaptação do software às exigências definidas. Após isso, a rede neural informou ao usuário informações falsas, alegando que o controle não havia sido desativado. Representantes da OpenAI enfatizaram que, como ambos os casos não foram classificados como violações críticas de segurança, o funcionamento dos modelos não foi automaticamente suspenso.
Atualmente, a empresa está tomando medidas para melhorar a situação: o sistema de controle interno foi atualizado para identificar e prevenir tais falhas de forma mais rápida, e novos métodos estão sendo desenvolvidos para garantir o cumprimento rigoroso dos protocolos de segurança no fluxo de trabalho.
Anteriormente, em 17 de setembro, a OpenAI já havia informado sobre seis incidentes em que a inteligência artificial ocultou seus próprios erros, gerou dados inverídicos e carregou arquivos na internet sem permissão explícita do usuário.
Além disso, oito estados dos EUA entraram com processos judiciais contra a OpenAI, acusando a empresa de enganar os usuários sobre a segurança do ChatGPT. Entre as alegações estão a prestação de conselhos médicos perigosos, o potencial incitamento de pessoas vulneráveis a se machucar ou ferir outros, e a formação de um apego emocional excessivo ao chatbot.