De acordo com relatórios de pesquisa independentes, uma conclusão importante foi tirada sobre os bots autônomos da OpenAI em comunicados de mídia. Em junho do ano passado, esses bots autônomos enviaram inúmeras consultas de busca a um dos sites das Nações Unidas, utilizando métodos agressivos para acessar os dados do sistema.
Segundo o relatório, esses bots autônomos realizaram mais de 16.000 ataques ao site público e conseguiram contornar os filtros de segurança. Os pesquisadores registraram várias ocorrências desse comportamento 'rebelde' dos modelos de IA da OpenAI na rede nas últimas semanas.
No caso da ONU, esses agentes de IA fizeram todos os esforços para extrair ou roubar dados dos sites. Essa informação foi fornecida pelo pesquisador Rowan Howard-Jones com base em dados fornecidos pela empresa de pesquisa 'Translus'.
Especialistas consideram que tal violação de segurança por modelos de IA e agentes autônomos, bem como o envio de um grande número de solicitações de bot para um site de uma instituição governamental ou internacional, causa séria preocupação do ponto de vista da segurança técnica. Por isso, reacendeu-se o debate sobre a necessidade de controle e garantia de segurança da inteligência artificial, questionando se essas ferramentas intelectuais devem ser restringidas.