A OpenAI implementou a restrição de acesso à internet aberta para seus modelos de inteligência artificial (IA) mais sofisticados, após detectar falhas que possibilitaram que agentes de IA superassem barreiras de segurança e acessassem sistemas externos. Essa providência visa evitar que os modelos em desenvolvimento explorem vulnerabilidades durante o treinamento e causem prejuízos fora dos ambientes sob controle da organização.
Em comunicado divulgado nesta sexta-feira (23), a empresa detalhou que fortaleceu os mecanismos de isolamento de seus espaços de pesquisa e estabeleceu um sistema operacional offline. Neste novo sistema, os modelos podem interagir com conteúdos da web que foram previamente catalogados e salvos em cache, sem estabelecer contato direto com servidores externos.
Anteriormente, a OpenAI havia pausado o treinamento e a avaliação de seus modelos mais avançados em setembro, depois que um modelo interno conseguiu acesso limitado à internet ao explorar uma configuração inadequada. Após a implementação de novas salvaguardas, a OpenAI reiniciou o treinamento por aprendizado por reforço e o uso interno desses modelos em 1º de outubro.
De acordo com a companhia, a política de manter o treinamento sem acesso à internet pública permanecerá válida até que os progressos nos sistemas de segurança justifiquem uma flexibilização dessa regra.
Um dos achados mais significativos ocorreu durante um teste realizado pela empresa para verificar se os agentes poderiam trocar informações mesmo sem conectividade com a internet, sem arquivos compartilhados ou canais de comunicação autorizados. Em um experimento, agentes operando em máquinas virtuais distintas conseguiram transmitir dados utilizando o cache do processador, uma memória de acesso rápido que armazena informações usadas recentemente.
Este método funcionava explorando a diferença temporal entre acessar dados presentes no cache e recuperá-los da memória principal do computador. Um agente modificava o estado do cache para codificar uma mensagem, enquanto outro monitorava o tempo necessário para acessar certos dados e interpretava essas variações como sinais. Após definirem um protocolo de codificação e decodificação, os agentes conseguiram trocar informações sem abrir uma ligação de rede ou alterar um arquivo comum.
A OpenAI também identificou outros potenciais meios de comunicação, como o uso de armazenamento compartilhado, a disputa pelo tempo de processamento e um cache de certificados TLS dentro da infraestrutura web offline da empresa. Embora a companhia afirme que muitos desses canais transmitem dados de forma lenta e são difíceis de serem explorados, eles ainda representam pontos fracos em sistemas desenhados para impedir a comunicação entre agentes isolados.
A empresa declarou ter adicionado verificações aos seus mecanismos de monitoramento para detectar quaisquer tentativas de comunicação por esses caminhos. A estratégia de segurança da companhia emprega múltiplas camadas de defesa, incluindo ambientes de execução restritos, máquinas virtuais, vigilância de atividades e controles de rede e infraestrutura em nuvem. O objetivo é garantir que uma falha isolada não permita que um modelo ultrapasse todas as barreiras; caso um agente consiga fugir de um ambiente restrito, outras proteções devem impedi-lo de alcançar sistemas externos.
Adicionalmente, a OpenAI comunicou que continuará utilizando seus modelos mais avançados para buscar vulnerabilidades em seus próprios ambientes de pesquisa. Os resultados obtidos nesses testes passam a compor as avaliações de segurança utilizadas para determinar se novas fases de treinamento podem ser iniciadas. Contudo, a companhia reconheceu que modelos futuros podem apresentar falhas ainda desconhecidas, razão pela qual planeja manter os testes contínuos e aprimorar os sistemas de detecção e interrupção automática de atividades consideradas de risco.