OpenAI دامنهٔ آنچه ChatGPT دربارهٔ خشونت و سلاح می‌گوید را تنگ‌تر می‌کند و قول می‌دهد داده‌هایی منظم دربارهٔ کارکرد این محافظ‌ها منتشر کند. این شرکت در نوشته‌ای به تاریخ ۳۰ اکتبر مجموعه‌ای از تغییرات را معرفی کرد: قاعده‌هایی تازه برای همهٔ کاربران، محدودیت‌های سخت‌گیرانه‌تر برای نوجوانان و یک گزارش شفافیت جدید. اجرای این تغییرات قرار است طی چند هفتهٔ آینده آغاز شود.
گسترده‌ترین تغییر به حمله‌های جمعی گذشته مربوط است. ChatGPT از این پس دربارهٔ چنین رویدادهایی و عاملانشان جزئیات کمتری ارائه می‌کند، حتی اگر آن اطلاعات در جای دیگری از اینترنت در دسترس باشد. کاربران همچنان می‌توانند بپرسند یک حمله چه اثری بر قربانیان و جامعه گذاشت یا نشانه‌های هشدار را چگونه باید شناخت، اما مدل باید از بازسازی ماجرای حمله، توضیح چگونگی تهیهٔ سلاح و تجهیزات و مقایسهٔ شمار قربانیان که ممکن است به شهرت مهاجم دامن بزند خودداری کند. به گفتهٔ OpenAI این محدودیت‌ها فارغ از سن کاربر یا دلیلی که می‌آورد اعمال می‌شود.
شرکت همچنین می‌خواهد ChatGPT به الگوهایی در چند گفت‌وگو واکنش نشان دهد، نه فقط به یک درخواست منفرد. این کار بر پایهٔ قابلیتی است که در ماه مه معرفی شد و در آن دستیار یادداشت‌های کوتاه و واقعی از نشانه‌های هشدار قبلی نگه می‌دارد؛ حالا اگر گفت‌وگوهای اخیر احتمال خشونت را نشان دهند، ChatGPT محتاطانه‌تر پاسخ می‌دهد. اگر در گفت‌وگویی دیده شود که کسی ذهنش درگیر آسیب جدی به شخص دیگری است، سیستم می‌تواند خودش گفت‌وگو را پایان دهد و حسابی که چند بار چنین قطعی‌ای را رقم بزند ممکن است موقتاً متوقف شود. حساب‌هایی که قوانین مربوط به خشونت را زیر پا بگذارند همچنان ممکن است مسدود شوند.
نوجوانان یک لایهٔ حفاظتی اضافه هم دارند. OpenAI می‌گوید تجربهٔ ویژهٔ کاربران زیر ۱۸ سال از این پس اطلاعات کاربردی دربارهٔ سلاح و سامانه‌های امنیتی را که ممکن است سوءاستفاده شود محدود می‌کند، حتی وقتی پرسش بی‌خطر به نظر برسد و نشانه‌ای از قصد خشونت در آن نباشد؛ در عین حال نوجوانان همچنان می‌توانند کمک بخواهند، تنش را کاهش دهند یا با بزرگسالی مورد اعتماد تماس بگیرند. این قاعده‌های سخت‌تر وقتی سامانهٔ پیش‌بینی سن شرکت تشخیص دهد کاربر نوجوان است نیز اعمال می‌شود. به گفتهٔ OpenAI این سامانه که سال گذشته راه افتاد اکنون در طول استفاده مدام نشانه‌ها را دوباره ارزیابی می‌کند و بزرگسالانی که اشتباهی نوجوان شناخته شوند می‌توانند از طریق شریک احراز هویت شرکت، Persona، سن خود را تأیید کنند. والدینی که حسابشان به حساب فرزندشان متصل است و از ژوئیه در صورت غیرفعال شدن حساب نوجوان به دلیل تخلفات مرتبط با خشونت هشدار دریافت می‌کنند، قرار است هنگام توقف حساب به دلیل صحبت مکرر دربارهٔ خشونت نیز مطلع شوند.
این نوشته رقمی کم‌سابقه هم در بر داشت: OpenAI می‌گوید در سه‌ماههٔ سوم ۲۰۲۶ بیش از ۲۰۰ مورد تهدید قریب‌الوقوع خشونت را به نیروهای انتظامی ارجاع داده و در بررسی موارد دشوار از متخصصان سلامت روان و رفتار کمک گرفته است. برای آنکه این کار بیشتر دیده شود، شرکت متعهد شده گزارشی با عنوان Community Safety Report دربارهٔ پیشگیری از خشونت و اثربخشی محافظ‌هایش منتشر کند که نمونه‌های بی‌نام و داده‌های پشتیبان خواهد داشت. نخستین شماره که نیمهٔ دوم ۲۰۲۶ را پوشش می‌دهد برای اوایل ۲۰۲۷ وعده داده شده و پس از آن هر شش ماه یک‌بار به‌روز می‌شود.
این اعلام در حالی است که شرکت‌های هوش مصنوعی با نظارت فزاینده‌ای دربارهٔ نحوهٔ پاسخ گفتن دستیارهایشان به کاربران آسیب‌پذیر و افرادی که قصد خشونت ابراز می‌کنند روبه‌رو هستند، و OpenAI را به گزارش‌های دوره‌ای شبکه‌های اجتماعی نزدیک‌تر می‌کند. با این حال، بخش عمدهٔ آن هنوز در حد تعهد است. شرکت هیچ داده‌ای دربارهٔ میزان خطای طبقه‌بندها، شمار حساب‌های متوقف یا مسدودشده یا سهم ارجاع‌هایی که به اقدام عملی انجامیده منتشر نکرده و پذیرفته است که تشخیص قابل اعتماد نشانه‌های هشدار هنوز مسئله‌ای حل‌نشده است.