تقطیر

ایمنی و اخلاق

OpenAI از دفاع‌هایش در برابر تقطیر خصمانه می‌گوید؛ موفقیت حمله استخراج استدلال در GPT-6.2 Astra از ۵۴٫۰ به ۰٫۲ درصد رسیده است

OpenAI روز ۲۰ نوامبر ۲۰۲۶ توضیح داد چگونه تقطیر خصمانه را شناسایی و مختل می‌کند و در GPT-6.2 Astra و Sol استدلال محافظت‌شده را به تاریخچه گفت‌وگو گره زده است. بر پایه آزمون‌های خود شرکت، حمله‌های تطبیقی به استدلال یک درخ…