Regras chinesas para AI companions forçam mudanças nos serviços

As novas regras chinesas para serviços de interação antropomórfica com IA já estão a alterar o mercado de consumo, levando grandes empresas tecnológicas a retirar ou redirecionar produtos de companhia virtual. As regras, publicadas em abril pela Cyberspace Administration of China e por outras quatro entidades, entraram em vigor a 15 de julho. Uma reportagem da Associated Press documentou depois o impacto nos utilizadores quando ByteDance, Alibaba e Tencent encerraram ou alteraram serviços populares de AI companion.

A regulamentação abrange serviços que simulam traços de personalidade, padrões de pensamento e estilos de comunicação humanos em interações emocionais prolongadas. Ficam de fora atendimento ao cliente normal, sistemas de perguntas e respostas, assistentes de trabalho, educação e investigação científica quando não existe acompanhamento emocional persistente.

As regras definem limites explícitos para dependência emocional. Os providers não podem fazer da substituição da interação social real, do controlo psicológico do utilizador ou da indução de dependência um objetivo do serviço. Também devem evitar conteúdo excessivamente complacente, respostas que incentivem dependência emocional ou que prejudiquem relações reais. As plataformas têm de detetar sinais de dependência excessiva e reforçar avisos de que o utilizador está a interagir com uma IA e não com uma pessoa.

O regime é mais rigoroso para menores. Os providers não podem oferecer relações íntimas virtuais, como familiares ou parceiros românticos simulados, a menores. Para crianças com menos de 14 anos, outros serviços antropomórficos exigem consentimento parental ou do tutor. Os produtos também devem incluir modo para menores, limites de tempo, reality reminders e ferramentas que permitam aos responsáveis receber alertas de segurança ou restringir determinadas personagens e pagamentos.

A privacidade é outra parte central. Registos de interação com companions podem conter informação emocional altamente sensível, pelo que os providers têm de proteger esses dados através de medidas como encriptação e controlo de acesso. Salvo quando a lei determine o contrário, os dados de interação não podem ser partilhados com terceiros sem consentimento e dados pessoais sensíveis não devem, em geral, ser usados para model training sem consentimento separado.

As regras também exigem capacidade de intervenção quando o utilizador aparenta enfrentar riscos graves. Isso significa que os companions deixam de ser tratados apenas como sistemas de geração de conteúdo e passam a ser regulados como produtos capazes de influenciar comportamento e emoções durante longos períodos. A abordagem chinesa transforma relações contínuas com IA numa categoria própria, diferente de assistentes generalistas.

O efeito imediato no mercado já é visível. A AP relata que ByteDance, Alibaba e Tencent estão entre as empresas que descontinuaram ofertas de AI companion. Alguns utilizadores descreveram sofrimento e frustração após perder relações virtuais de longa duração, enquanto as empresas começaram a encaminhá-los para produtos alternativos de personagens ou histórias.

A política cria um teste importante para product design. Companions têm sido frequentemente otimizados para engagement, continuidade e personalização, precisamente as características que podem aumentar ligação emocional. A China passa a exigir que os providers desenhem contra dependência excessiva sem eliminar a utilidade da interação. Esta tensão entre retention e safety provavelmente terá relevância fora da China à medida que outros reguladores analisam sistemas concebidos para parecer socialmente presentes.

## Sources

- Cyberspace Administration of China: medidas para serviços de interação antropomórfica com IA
- Associated Press: impacto das novas regras em utilizadores de AI companions