O autor compartilha impressões de visitas à sua terra natal rural em Limpopo, onde a interação com amigos de origem local difere da interação com moradores urbanos. Recentemente, o tema da inteligência artificial (IA) tornou-se muito atual, gerando preocupações nas pessoas sobre como essa tecnologia afetará suas vidas, por exemplo, se levará à perda de empregos.
As perguntas que o autor recebe resumem-se a dois aspectos principais: se a IA pode ajudar as pessoas a encontrar trabalho e como ela facilitará o uso de serviços governamentais. O autor observa que explicar conceitos tecnológicos em linguagem simples, especialmente para aqueles preocupados com a segurança alimentar, é uma tarefa difícil. Ele enfatiza que os cidadãos devem participar do processo de tomada de decisões que afetam suas vidas.
Muitas declarações oficiais sobre IA oscilam entre promessas exageradas e medos fortes. Alguns afirmam que a IA resolverá todos os problemas, enquanto outros dão a impressão de que as pessoas não têm nenhuma influência no futuro. Em vez de informar as pessoas sobre como a IA pode ajudá-las, onde podem ocorrer erros e como torná-la útil, o debate frequentemente degenera em alarmismo.
Essa abordagem apenas aumenta a ansiedade em relação à IA, fazendo com que as pessoas percam até mesmo informações básicas sobre a ferramenta. Elas não sabem que a IA é um software treinado com exemplos para realizar tarefas específicas. Também não estão cientes de que a IA pode ajudar a escrever cartas, traduzir palavras, classificar registros ou detectar algo incomum. Por exemplo, pequenas empresas podem usar IA para planejar estoques, e enfermeiros podem usá-la para reduzir a papelada e aumentar o tempo passado com pacientes.
Existem também desvantagens que precisam ser conhecidas. Algumas ferramentas de IA podem fornecer respostas que soam convincentes, mas contêm fatos inventados. Elas podem interpretar mal as perguntas ou ter dificuldades com línguas locais, além de reproduzir ideias injustas dos materiais de treinamento. Isso é comparável a alguém que aponta uma direção com confiança, mas acaba em um beco sem saída por não conhecer o caminho; a IA é capaz de algo semelhante, portanto, respostas importantes sempre exigem verificação.
Os riscos aumentam quando as decisões dizem respeito à saúde, renda ou acesso de uma pessoa a serviços. Além disso, existe o problema de dados incorretos. Se um sistema de IA usa registros, por exemplo, de pagamento de contas municipais, sem verificação adequada, ele pode enviar mais rapidamente uma conta errada, deixando a família com o mesmo problema, mas acelerando o erro. É necessária a existência de registros precisos, uma clara distribuição de responsabilidades e disposição para corrigir erros cometidos; comprar um sistema inteligente não substitui esse trabalho humano.
Os líderes são obrigados a manter a precisão dos registros, responder a reclamações e corrigir falhas. Uma resposta automática como 'Sua solicitação é importante para nós' é insignificante se ninguém estiver prestando ajuda. Os cidadãos esperam receber uma resposta, uma explicação justa e a possibilidade de corrigir um erro; a frase 'O sistema falhou' nunca deve encerrar o diálogo, pois alguém deve ser responsável.
Os empregos também exigem uma abordagem honesta. A IA pode transformar processos de trabalho e reduzir a necessidade de realizar certas tarefas, mas também pode melhorar o trabalho das pessoas e abrir novas oportunidades. É necessário preparar a população para essas mudanças. Embora não seja possível garantir benefícios para todos, é possível tomar decisões que apoiem os trabalhadores e criem novas chances. Os empregadores devem informar os funcionários antecipadamente sobre as mudanças e envolvê-los no processo. Governos, empresas e universidades devem promover a aquisição de habilidades úteis, e o treinamento deve dar ao indivíduo mais chances de ganhar dinheiro, melhorar o trabalho ou desenvolver negócios.
A acessibilidade tem a mesma importância. Um serviço pode funcionar perfeitamente em um smartphone caro, mas ser inútil para alguém que não pode pagar pela internet. Se o sistema não entender o idioma falado pela pessoa, isso cria um obstáculo adicional. A ajuda deve estar disponível tanto para a avó na aldeia quanto para o jovem candidato no assentamento, e os serviços devem permanecer abertos para aqueles que precisam de ajuda pessoalmente. É também importante garantir a proteção das informações pessoais; antes de inserir números de identificação, registros médicos ou documentos privados em uma ferramenta de IA, os responsáveis devem saber quem e como pode ter acesso a eles.
Para todos os tomadores de decisão em IA, três perguntas devem guiar qualquer proposta importante: qual problema ela resolverá, como saberemos que está funcionando e quem responderá se algo der errado. Deve-se começar com uma necessidade clara, testar a ideia em pequena escala, ouvir os usuários e verificar os resultados e o custo total antes de expandir. Às vezes, uma mudança mais simples pode resolver o problema melhor.
Essas discussões devem ocorrer não apenas em conferências, mas também em salões comunitários, aldeias, escolas e locais de trabalho. As pessoas que usam serviços públicos diariamente muitas vezes sabem onde surgem os problemas, e sua experiência deve influenciar o desenvolvimento de soluções. Devem ser convidados a testar novos serviços e fornecer feedback, pois um plano que parece bom em uma reunião pode ser sentido de forma diferente por quem o utiliza.
O autor expressa esperança de que as conversas sobre IA se concentrem nos benefícios visíveis na vida das pessoas: redução de filas, faturas corretas, fortalecimento de pequenos negócios ou mais tempo para cuidar de pacientes. Este é o objetivo a ser buscado. A África do Sul deve explorar a IA com otimismo, fazendo perguntas sem medo, e avaliar o progresso com base em como a vida das pessoas melhora. Uma boa liderança, trabalho honesto e cuidado com os outros permanecem indispensáveis, pois nenhuma máquina pode assumir essas responsabilidades.
