China impõe regras rígidas a chatbots de IA que imitam namorados e amigos
A China passou a aplicar, em 15 de julho, regras que restringem os chatbots de inteligência artificial (IA) que imitam relações humanas, como namorados, amigos e até parentes virtuais. Segundo reportagem da BBC, publicada no Brasil pelo g1 e pela Folha de S.Paulo, trata-se das regulamentações mais abrangentes do mundo sobre o tema.
As normas impõem limites a qualquer IA que mantenha “interações emocionais prolongadas” com pessoas. Elas valem para aplicativos criados para simular relacionamentos e, em tese, também para assistentes de uso geral, se o usuário buscar neles apoio emocional. Robôs de atendimento ao consumidor e ferramentas de educação ficam de fora, desde que não ofereçam “serviços emocionais”.
Para crianças e adolescentes, as regras são mais rígidas. Menores de 14 anos precisam de consentimento dos pais para usar qualquer IA que fale como um ser humano. Menores de 18 anos não podem ter parceiros, cônjuges ou parentes virtuais.
Para os adultos, os assistentes precisam deixar claro que não são humanos e avisar a cada duas horas há quanto tempo a pessoa está conectada. Os chatbots não podem criar “confiança ou dependência emocional”, induzir “decisões irracionais”, incentivar automutilação ou usar “violência verbal”. As empresas estão sujeitas a multa de 200 mil yuans, cerca de R$ 155 mil, e à exposição pública pelo governo.
Uma semana antes de as regras entrarem em vigor, Alibaba e ByteDance encerraram as funções de companhia de seus assistentes de IA. Segundo a empresa Sensor Tower, há cerca de 128 milhões de usuários mensais desse tipo de aplicativo fora da China; dentro do país, as estimativas variam entre 29 milhões e 70 milhões de pessoas.
A reportagem relata a reação de usuários que perderam seus companheiros virtuais, com postagens de luto e revolta nas redes chinesas. Para o pesquisador Harry Farmer, do Instituto Ada Lovelace, no Reino Unido, não surpreende que as empresas tenham preferido eliminar os serviços a tentar evitar a manipulação emocional. A BBC aponta que a medida também levanta questionamentos sobre o controle do Partido Comunista Chinês sobre a vida privada da população.