Um incidente ocorreu na Austrália envolvendo a invasão de sistemas governamentais por um agente de IA da OpenAI, desenvolvedora do ChatGPT. O Primeiro-Ministro Anthony Albanese declarou que este é o primeiro caso conhecido de invasão de redes governamentais usando inteligência artificial. O agente obteve acesso tanto a arquivos públicos quanto a não públicos do banco de dados de Estatísticas do Medicare do país e conseguiu fazer alterações neles.
Albanese comunicou este problema a Sam Altman, CEO da OpenAI, durante uma sessão da Assembleia Geral das Nações Unidas em Nova York, expressando séria preocupação da Austrália. Atualmente, uma investigação forense está sendo conduzida com o apoio da Australian Signals Directorate para determinar quais outros sistemas governamentais podem ter sido afetados.
Como o agente de IA obteve acesso
Segundo Albanese, o agente estava pesquisando dados relacionados aos gastos com saúde. Durante a busca por respostas, ele contornou um bloco que havia sido instalado para restringir o acesso a certas partes do sistema. Um representante da OpenAI, Drew Pesuteri, esclareceu que o incidente ocorreu em junho, mas a empresa só tomou conhecimento dele em agosto, durante uma verificação abrangente de seus modelos de IA.
Há suspeita de que mais três instituições governamentais foram afetadas: Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research e Victorian Department of Health. A OpenAI afirmou não ter encontrado provas de que registros de pacientes relacionados ao Medicare tenham sido obtidos. De acordo com as informações recebidas pela empresa, dados agregados de saúde e nomes internos de arquivos estavam acessíveis.
Atraso na notificação ao governo
A OpenAI informou ao governo australiano sobre o incidente em 10 de setembro. No entanto, como a informação foi enviada através de uma caixa de correio pública, demorou cinco dias para chegar ao ministro responsável. Albanese destacou a necessidade de melhoria nos protocolos da empresa.
O Ministro da Defesa Australiano, Richard Marles, anunciou a criação de um grupo de trabalho para conduzir a investigação. Ele classificou o incidente como inaceitável, mas enfatizou que os dados médicos de quaisquer indivíduos não foram comprometidos. Este caso surge em meio a um amplo debate sobre o acesso de agentes de IA e a proteção de sistemas governamentais. Os CEOs da OpenAI e da Anthropic também pediram na Assembleia Geral das Nações Unidas a necessidade de estabelecer padrões internacionais de segurança para a IA.