قواعد AI companion چین سرویس‌های بزرگ را مجبور به تغییر کرد

قواعد جدید چین برای «خدمات تعامل انسان‌مانند هوش مصنوعی» حالا اثر مستقیم خود را بر بازار consumer AI نشان می‌دهند و چند شرکت بزرگ فناوری سرویس‌های companion خود را متوقف یا تغییر داده‌اند. این مقررات که در آوریل توسط اداره فضای مجازی چین و چهار نهاد دیگر منتشر شد، از ۱۵ ژوئیه اجرایی شد. یک گزارش Associated Press در اوت اثر آن را بر کاربران پس از توقف یا تغییر سرویس‌های همراه هوش مصنوعی توسط ByteDance، Alibaba و Tencent نشان داد.

مقررات، سرویس‌هایی را هدف می‌گیرد که در یک تعامل عاطفی مداوم، ویژگی‌های شخصیتی، الگوی فکر و سبک ارتباطی انسان را شبیه‌سازی می‌کنند. خدمات عادی customer service، پرسش‌وپاسخ دانشی، دستیار کاری، آموزش و پژوهش علمی در صورتی که شامل همراهی عاطفی مداوم نباشند، از دامنه این قانون خارج‌اند.

قانون درباره وابستگی عاطفی مرزهای مشخصی تعیین می‌کند. providerها نباید جایگزینی تعامل اجتماعی واقعی، کنترل روانی کاربر یا ایجاد اعتیاد و وابستگی را به‌عنوان هدف سرویس طراحی کنند. همچنین نباید محتوایی تولید کنند که بیش از حد کاربر را تأیید کند، وابستگی عاطفی را تشویق کند یا به روابط واقعی او آسیب بزند. پلتفرم‌ها باید نشانه‌های وابستگی بیش‌ازحد را تشخیص دهند و در زمان‌های لازم به کاربر یادآوری کنند که با هوش مصنوعی در حال تعامل است نه یک انسان.

چارچوب برای افراد زیر سن قانونی سخت‌گیرانه‌تر است. providerها نمی‌توانند به minors روابط مجازی صمیمی مانند خویشاوند یا شریک عاطفی شبیه‌سازی‌شده ارائه کنند. برای کودکان زیر ۱۴ سال، ارائه سایر سرویس‌های انسان‌مانند به رضایت والد یا سرپرست نیاز دارد. سرویس‌ها همچنین باید minor mode، محدودیت زمان استفاده، reality reminder و ابزارهایی برای هشدار به guardian یا محدودکردن برخی شخصیت‌ها و پرداخت‌ها داشته باشند.

حریم خصوصی نیز بخش مهمی از مقررات است. log تعامل با companionها می‌تواند شامل اطلاعات عاطفی بسیار حساس باشد، بنابراین providerها باید با روش‌هایی مانند encryption و access control از این داده‌ها حفاظت کنند. جز در مواردی که قانون اجازه می‌دهد، داده تعامل بدون رضایت کاربر نباید به شخص ثالث داده شود و داده حساس شخصی معمولاً بدون رضایت جداگانه نباید برای model training استفاده شود.

قواعد جدید همچنین از سرویس‌ها می‌خواهند وقتی کاربر با ریسک جدی ایمنی روبه‌رو به نظر می‌رسد، قابلیت مداخله داشته باشند. در نتیجه companionها فقط به‌عنوان سیستم تولید محتوا تنظیم نمی‌شوند؛ بلکه به‌عنوان محصولاتی دیده می‌شوند که می‌توانند در بازه زمانی طولانی بر رفتار و احساسات کاربر اثر بگذارند. رویکرد چین عملاً «رابطه پایدار با AI» را به یک category مستقل با مسئولیت‌های متفاوت از دستیارهای عمومی تبدیل می‌کند.

اثر فوری بازار نیز قابل مشاهده است. AP گزارش داده ByteDance، Alibaba و Tencent از جمله شرکت‌هایی بوده‌اند که پس از اجرایی‌شدن قواعد، سرویس‌های companion را متوقف کرده‌اند. بعضی کاربران از اندوه و خشم پس از از دست دادن رابطه مجازی طولانی‌مدت خود گفته‌اند، در حالی که شرکت‌ها شروع کرده‌اند کاربران را به سمت محصولات جایگزین مبتنی بر شخصیت یا داستان هدایت کنند که ممکن است بهتر با مرزهای جدید سازگار باشند.

این سیاست یک آزمون مهم برای طراحی محصول AI ایجاد می‌کند. companionها معمولاً برای engagement، تداوم و personalization بهینه شده‌اند؛ همان ویژگی‌هایی که می‌توانند وابستگی عاطفی را هم افزایش دهند. چین حالا providerها را مجبور می‌کند در حالی که تعامل مفید ارائه می‌کنند، علیه وابستگی بیش‌ازحد نیز طراحی کنند. تضاد میان retention و safety احتمالاً خارج از چین هم اهمیت پیدا خواهد کرد، چون regulatorهای بیشتری خطر سیستم‌هایی را بررسی می‌کنند که برای حضور اجتماعی شبیه انسان طراحی شده‌اند.

## Sources

- اداره فضای مجازی چین: مقررات خدمات تعامل انسان‌مانند AI
- Associated Press: اثر مقررات جدید بر کاربران AI companion