Atualmente, a inteligência artificial (IA) é amplamente utilizada em diversas áreas — desde a criação de imagens e busca por respostas até a execução de tarefas de escritório. No entanto, existe uma preocupação de que a IA possa começar a realizar ações fora do controle humano.
Diante dessa ameaça, o CEO da Microsoft, Satya Nadella, fez uma declaração importante sobre a IA. Ele acredita que os modelos avançados de IA devem ter um sistema que permita ao ser humano interromper imediatamente o funcionamento em caso de necessidade; ou seja, a IA precisa de um freio de emergência.
Satya Nadella afirma que as empresas não podem confiar na IA apenas porque o desenvolvedor garante sua segurança. Existe o risco de erros por parte da IA ou de invasão do seu sistema, portanto, é necessária uma preparação antecipada.
Ele propôs criar a IA de forma que o ser humano possa controlar suas atividades e interromper o funcionamento no momento apropriado. Independentemente de quão inteligente a IA se torne, o controle final deve permanecer nas mãos humanas.
Nadella não se limitou à exigência de uma função de desligamento da IA. Ele também insiste que todas as ações da IA, decisões tomadas e processos que levaram a elas devem ser registrados. Isso permitirá determinar a causa caso a IA cometa um erro.
Além disso, foi destacado a importância de usar diferentes modelos de IA para decisões críticas, em vez de depender de um único modelo, bem como a realização de verificações independentes dos sistemas de IA.
Satya Nadella também declarou que informações sobre erros graves da IA ou incidentes relacionados a problemas de segurança devem se tornar públicas. Isso permitirá que outras empresas aprendam com esses erros e aumentem a segurança de seus próprios sistemas.
Hoje, a IA não se limita a dar respostas simples; novos sistemas adquirem a capacidade de executar várias tarefas autonomamente. Nesses cenários, garantir sua segurança e manter o controle humano torna-se ainda mais crucial.
Em geral, a mensagem de Satya Nadella é clara: o desenvolvimento da IA é necessário, mas delegar-lhe poder absoluto é imprudente. Por mais inteligente que o mecanismo se torne, o botão de parada deve permanecer nas mãos humanas.