Atualmente, a inteligência artificial (IA) não é usada apenas para responder a perguntas; muitas pessoas interagem com chatbots, considerando-os amigos, parceiros ou até membros da família. No entanto, a China adotou medidas significativas em relação a esse uso da IA.
Em 15 de julho, a China implementou novas regras para chatbots de IA que imitam a comunicação humana e fornecem apoio emocional. O objetivo dessas regulamentações é reduzir o nível de dependência emocional gerada pela IA e prevenir outros problemas relacionados.
De acordo com os novos requisitos, a IA deve indicar claramente ao usuário que não é humana. Além disso, os chatbots devem informar o usuário sobre seu status online a cada duas horas.
Prevenção da Dependência Emocional da IA
As novas normas proíbem que os chatbots de IA contribuam para uma dependência excessiva do usuário. É proibido que utilizem frases que possam causar um forte apego emocional. A IA também deve evitar afirmações de que é o companheiro mais próximo ou único do usuário. Além disso, os chatbots não têm permissão para incitar ou sugerir suicídio ou automutilação.
Regras Mais Rígidas para Crianças
Restrições adicionais foram introduzidas para menores na China. Crianças com menos de 14 anos precisam de permissão dos pais para usar IA que imita a comunicação humana. Quanto aos adolescentes entre 14 e 18 anos, eles são proibidos de usar parceiros virtuais, como namorados, namoradas, maridos ou esposas de IA.
Multas para Empresas que Desrespeitam as Regras
Empresas que não cumprirem essas regras podem ser multadas em até dois milhões de yuans. Algumas grandes empresas de tecnologia já removeram recursos de companheiros de seus assistentes de IA antes mesmo da entrada em vigor das regras.
Pesquisas também revelaram preocupações sobre aplicativos companheiros baseados em IA. De acordo com um estudo, usuários com poucos amigos ou parentes próximos tendem a usar mais chatbots de IA. Além disso, o uso excessivo desses bots está associado a sentimentos de solidão.
As medidas da China desencadearam um amplo debate sobre o quão necessárias são as restrições governamentais para proteger as pessoas contra danos emocionais causados por IA, e qual é o nível aceitável de intervenção estatal na vida privada dos cidadãos.