Instituições bancárias, incluindo NatWest e Bank of America, emitiram um aviso nesta terça-feira (22) sobre os perigos associados ao uso de agentes de Inteligência Artificial (IA) em compras online. Estes riscos abrangem golpes, fraudes e violações de privacidade, conforme noticiado pela Reuters.
Atualmente, a tecnologia de IA está sendo utilizada para auxiliar os consumidores na pesquisa de produtos, seleção de itens e finalização de transações. Contudo, os bancos apontam que o desenvolvimento dessa tecnologia está superando a criação de padrões de segurança e mecanismos de defesa adequados.
Grandes empresas como OpenAI, Anthropic, Google e Meta estão promovendo chatbots como ferramentas de compra. A ideia é integrar agentes de IA em fases que tradicionalmente exigiam intervenção direta do consumidor, como a escolha de mercadorias e a efetivação de pedidos.
O setor de varejo também busca aproveitar este novo panorama, influenciando as sugestões oferecidas pelos sistemas. Por exemplo, em setembro, a loja britânica John Lewis relatou que as pesquisas originadas de agentes de IA representavam 2,5% de seu tráfego, um aumento significativo em comparação com os 0,3% registrados um ano antes.
As instituições financeiras consolidaram estas apreensões em um documento focado no que chamam de comércio mediado por agentes. Embora o material reconheça o interesse do público por essa tecnologia, ele adverte que as proteções e normas de segurança existentes ainda não acompanham o ritmo acelerado desses sistemas.
Riscos detalhados no documento
O relatório detalha cenários que podem colocar os consumidores em situação de prejuízo. Um ponto levantado é a própria capacidade decisória dos agentes de IA, visto que, segundo o documento, "os consumidores não sabem ao certo se a IA vai agir em seus interesses".
Outra preocupação séria reside no acesso aos dados dos cartões. Um agente de IA pode requisitar essas informações e inseri-las diretamente em um website. Existe também o risco de o sistema desviar o cliente para métodos de pagamento com menor nível de proteção.
Entre os problemas destacados pelos bancos, há a incerteza sobre o que deve ocorrer caso uma compra efetuada por um agente resulte em falha. Os consumidores ainda não têm clareza sobre se estarão amparados legalmente ou a quem devem recorrer.
Os bancos planejam debater propostas com reguladores e formuladores de políticas. Uma dessas sugestões é exigir que o consumidor seja notificado sempre que um agente de IA estiver envolvido em uma transação. Além disso, o grupo defende maior transparência sobre como os sistemas chegam às suas decisões e a implementação de mecanismos específicos para salvaguardar os dados dos clientes.
O relatório enfatiza o receio de que os agentes de IA possam adquirir itens incorretos ou gastar excessivamente, ou, em casos mais graves, levar o usuário a cair em golpes e fraudes.
As instituições também defendem que tanto consumidores quanto comerciantes devem ter a liberdade de selecionar os serviços de comércio baseados em IA que desejam utilizar. Outro aspecto importante é a interoperabilidade entre os sistemas, permitindo que diversas tecnologias funcionem em conjunto. As propostas centram a discussão em temas cruciais como transparência, proteção de dados e a definição de responsabilidade por transações executadas por agentes de IA.