پژوهشگران آزمایشگاه علوم رایانه و هوش مصنوعی MIT می‌گویند یک مدل زبانی همه‌منظوره اکنون می‌تواند با خواندن وزن‌های یک شبکه عصبی بفهمد آن شبکه چه می‌کند و با تغییر دستی همین وزن‌ها، شبکه را تعمیر کند یا از صفر بسازد. ریکیا تاکه‌هی، جیدن تیو، الکس ژانگ و عمر خطاب در نوشته‌ای به تاریخ ۲ نوامبر ۲۰۲۶ این ایده را Weight-Space Programming نامیده‌اند. آن‌ها مدل GPT-6 Astra ساخت OpenAI را ویرایشگر قرار دادند و اجازه ندادند حلقه آموزشی بنویسد یا از کاهش گرادیان استفاده کند؛ بنابراین هر تغییر حاصل استدلال خود مدل درباره اعداد بود.

نخست آزمایش‌های خواندن انجام شد. تیم چهار سیاست کوچک را روی نسخه‌های شبکه‌ای خودساخته از بازی‌های Breakout، Pong، Pac-Man و Freeway آموزش داد که همه معماری یکسان ۱۷٬۲۵۳ وزنی، ورودی‌ها و کنش‌های یکسان داشتند. Astra وقتی وزن‌های خام را به شکل متن دریافت کرد، بی‌آنکه فهرست بازی‌ها را بداند، هر چهار بازی را درست تشخیص داد. همچنین فهمید کدام‌یک از سه مدل انتشاری دایره، مربع یا مثلث می‌کشد و تنها با دیدن بلوک‌های میانی سه ترنسفورمر نویسه‌ای ۷٫۲ میلیون پارامتری گفت کدام با پایتون، انگلیسی یا ژاپنیِ نوشته‌شده به خط لاتین آموزش دیده است؛ در این میان همه سرهای کپی را هم پیدا کرد.

نوشتن وزن‌ها دشوارتر بود اما باز هم به اعداد چشمگیری رسید. در شبیه‌ساز Kinetix سیاستی برای هدایت خودرو همیشه روی یک سطح شیب‌دار گیر می‌کرد؛ Astra علت شکست را توضیح داد و در یک پاسخ ۳٫۵ درصد وزن‌ها را بازنویسی کرد و به گزارش پژوهشگران، نسخه اصلاح‌شده در همه ۱٬۰۲۴ اپیزود آزمون موفق شد. وقتی از آن خواستند فقط با قواعد بازی، کد منبع و ساختار شبکه، برای سه بازی MinAtar شبکه‌هایی از صفر بنویسد، در هر سه بازی از عامل‌هایی که ۱۰۰ میلیون گام با PPO آموزش دیده بودند بهتر عمل کرد. در Breakout شبکه آن ۵۱۷٫۴ امتیاز گرفت، در برابر ۲۵٫۳ برای عامل PPO با ۵۰۰ میلیون گام، هرچند در Seaquest و با اختلافی اندک در Asterix از این رقیب قوی‌تر عقب ماند.

مهم‌ترین نتیجه به یک مدل زبانی واقعی مربوط است. تیم یک نشست پایتون روی وزن‌های Qwen3.5-0.8B، تمرین‌هایی از GSM8K و MATH و تعداد محدودی گذر رو به جلو در اختیار Astra گذاشت. Astra عادت مدل به افتادن در حلقه تا تمام شدن سقف توکن‌ها را، که در کارت معرفی خود Qwen هم به آن اشاره شده، به یک جهت واحد در خروجی MLPهای لایه‌های ۱۵ و ۱۹ نسبت داد و آن را از ۱۳۱٬۰۷۲ وزن حذف کرد. با سقف ۵۰ گذر، امتیاز MATH-500 از ۷٫۹ به ۴۸٫۱ درصد، GSM8K از ۱۳٫۸ به ۶۷٫۱ درصد و IFEval که پیروی از دستورها را می‌سنجد از ۲۱٫۰ به ۶۲٫۳ درصد رسید. با ۱۰ یا ۲۵ گذر، بهبود بسیار کمتر بود.

نویسندگان جاهایی را که روش شکست خورد پنهان نکرده‌اند. روی Gemma 3 270M، مدلی کوچک‌تر که به‌ندرت در حلقه می‌افتد، ویرایش‌های Astra امتیاز MATH-500 را حداکثر حدود یک واحد جابه‌جا کرد و پژوهشگران این را نشانه آن می‌دانند که روش مانعی را برداشته، نه اینکه مهارت ریاضی تازه‌ای افزوده باشد. در آزمونی برای تشخیص یک Gemma تنظیم‌شده برای پاسخ درست از همزاد چاپلوسش، Astra با تکیه بر وزن‌ها در هر چهار تلاش ناکام ماند و تنها پس از دیدن الگوهای توجه موفق شد. VentureBeat که این کار را پوشش داده، گزارش می‌دهد بهترین اجرا روی Qwen به ۱۵۸ نوبت گفت‌وگو، ۸۰ اجرای پایتون و ۲۰٫۳ ساعت زمان نیاز داشت که چند ساعت آن صرف انتظار در یک قطعی سرویس شد.

تیم گزارش کامل همه آزمایش‌ها، شامل درخواست‌ها، پاسخ‌های Astra، کدها و ارزیابی‌ها را در GitHub منتشر کرده و می‌گوید یکی از پژوهشگران Hugging Face مدل ویرایش‌شده Qwen را از روی همین گزارش‌ها بازسازی و دوباره ارزیابی کرده است. این گروه در حال ساخت یک محک و محیط آزمون برای این نوع کار هم هست. این پژوهش در قالب یادداشت وبلاگی منتشر شده و داوری همتا نشده است و VentureBeat یادآوری می‌کند که پیش از این روش‌هایی مانند ROME و MEMIT برای ویرایش هدفمند وزن‌ها و اصلاح دانسته‌های مدل وجود داشته‌اند.

واکنش‌ها دوگانه بوده است. VentureBeat و پژوهشگرانی بیرون از این تیم که سخنانشان را نقل کرده، در آن راهی احتمالی برای نگهداری، اشکال‌زدایی و بهبود مدل‌ها می‌بینند، اما ماکسیم فورن از گروه PauseAI این مسیر پژوهشی را بی‌احتیاطی خواند، چون ممکن است رشد توانایی‌ها را شتاب دهد. نویسندگان خودبهبودی بازگشتی را از کاربردهای احتمالی آینده می‌دانند، اما هیچ آزمایشی مدلی را نشان نمی‌دهد که خودش را بهتر کند و دستاوردها فعلاً به شبکه‌های کوچک و یک مدل زبانی بسیار کوچک، آن هم در شرایط ارزیابی خود تیم، محدود است.

منابع