Les règles chinoises sur les compagnons IA forcent les services à changer

Les nouvelles règles chinoises sur les services d’interaction anthropomorphique fondés sur l’IA commencent à transformer concrètement le marché grand public. Le texte, publié en avril par la Cyberspace Administration of China et quatre autres autorités, est entré en vigueur le 15 juillet. Un reportage de l’Associated Press a ensuite documenté les conséquences pour les utilisateurs après l’arrêt ou la modification de services de compagnons IA proposés par ByteDance, Alibaba et Tencent.

La réglementation vise les services qui simulent des traits de personnalité, des modes de pensée et des styles de communication humains dans une relation émotionnelle durable. Elle exclut le service client classique, les systèmes de questions-réponses, les assistants professionnels, l’éducation et la recherche scientifique lorsqu’ils ne proposent pas de compagnie émotionnelle persistante.

Le texte fixe des limites explicites à la dépendance affective. Les fournisseurs ne peuvent pas faire du remplacement des relations sociales réelles, du contrôle psychologique ou de l’induction de dépendance un objectif du service. Ils doivent aussi éviter les réponses excessivement complaisantes, les contenus qui encouragent l’attachement émotionnel ou ceux qui dégradent les relations réelles. Les plateformes doivent détecter les signes de dépendance excessive et rappeler clairement que l’utilisateur interagit avec une IA et non avec une personne.

Le cadre est plus strict pour les mineurs. Les fournisseurs ne peuvent pas proposer de relations intimes virtuelles, par exemple un parent ou un partenaire romantique simulé, à des mineurs. Pour les moins de 14 ans, d’autres formes de services anthropomorphiques nécessitent l’accord d’un parent ou d’un tuteur. Les services doivent aussi inclure un mode mineur, des limites de temps, des rappels de réalité et des outils permettant aux tuteurs de recevoir des alertes ou de limiter certains personnages et dépenses.

La confidentialité constitue un autre volet majeur. Les conversations avec un compagnon IA peuvent contenir des informations émotionnelles très sensibles. Les fournisseurs doivent donc protéger ces données avec des mesures telles que le chiffrement et les contrôles d’accès. Sauf exception légale, les données d’interaction ne peuvent pas être communiquées à des tiers sans consentement, et les informations personnelles sensibles ne peuvent généralement pas être utilisées pour entraîner des modèles sans consentement séparé.

Les règles imposent également des capacités d’intervention lorsque l’utilisateur semble exposé à un risque grave. Les compagnons IA sont donc réglementés non seulement comme des générateurs de contenu, mais comme des systèmes susceptibles d’influencer durablement le comportement émotionnel. La Chine traite ainsi les relations soutenues avec une IA comme une catégorie de produit distincte des assistants généralistes.

L’effet sur le marché est déjà visible. AP rapporte que ByteDance, Alibaba et Tencent ont fait partie des entreprises ayant interrompu des offres de compagnons IA. Des utilisateurs ont décrit leur chagrin après la disparition de relations virtuelles de longue durée, tandis que les entreprises les redirigent vers des expériences alternatives centrées sur des personnages ou des histoires.

Cette politique crée un test important pour le design des produits IA. Les compagnons ont souvent été optimisés pour l’engagement, la continuité et la personnalisation, précisément les caractéristiques qui peuvent renforcer l’attachement. La Chine impose désormais de concevoir contre la dépendance excessive tout en maintenant une interaction utile. Cette tension entre rétention et sécurité devrait intéresser d’autres régulateurs confrontés aux systèmes conçus pour donner l’impression d’une présence sociale.

## Sources

- Cyberspace Administration of China : mesures sur les services IA anthropomorphiques
- Associated Press : conséquences des nouvelles règles sur les compagnons IA