باحث سابق في OpenAI يرى أن الشبكات العصبية منظمة أصلاً
نيك كاماراتا من Goodfire نشر مقالاً في 15 أكتوبر 2026 يقول إن نحو 90% من عصبونات نموذج Qwen3-32B تؤدي وظيفة واحدة مهيمنة، وإن قراءات سابقة أخطأت في التفسير.
نشر نيك كاماراتا، الباحث السابق في OpenAI والعامل حالياً في شركة Goodfire للتفسيرية، مقالاً بعنوان 'Neural Networks Are Already Clean' في 15 أكتوبر 2026، يرى فيه أن الشبكات العصبية منظمة أصلاً، وأن ما رُصد سابقاً من مفاهيم مختلطة وغير مترابطة داخل العصبون الواحد كان قراءة خاطئة للبيانات، حسب aitimes.com.
أعاد كاماراتا فحص المثال الشهير لعصبون "وجه القط" و"مقدمة السيارة"، وخلص إلى أن العصبون يرصد شكلاً حاداً على هيئة V مشتركاً بين الحالتين، لا مزيجاً من مفهومين غير مرتبطين. وقدّر استناداً إلى تحليل أولي للقيم الإيجابية والسلبية أن نحو 90% من العصبونات التي حللها في نموذج اللغة Qwen3-32B تؤدي وظيفة واحدة مهيمنة.
وفي التجارب التي أوردها المقال، كتب وكيل ذكاء اصطناعي وصفاً لعصبون، ثم استخدم وكيل آخر هذا الوصف وحده لتوليد جمل، ونجح بعضها في إحداث تنشيطات أقوى من أمثلة مستقاة من مجموعات بيانات كبيرة.
وصف كاماراتا مقاله بأنه فرضية عمل، وقال إن ورقة تقنية تتضمن تفاصيل تجارب نموذج اللغة ستُنشر على حدة. وعنونت الحساب roon (@tszzl) على منصة X المقال بأنه ربما يمثل لحظة كبرى في تاريخ العلم، وقد يجعل من المواءمة علماً عادياً.
تقييم نقدي
على منتدى LessWrong، رأى الباحث في التفسيرية نيل ناندا أن العمل مثير للاهتمام لكنه ليس تقدماً على مستوى الصورة الكبرى في مجال التفسيرية، لافتاً إلى أن مخططات الدوائر قد تغفل معلومات، وأن العصبونات ضعيفة التنشيط لا تفسير كافياً لها.
ويعود كاماراتا إلى هذا المجال من موقع متقدم؛ فقد شارك في تأليف ورقتين مبكرتين في التفسيرية هما 'Zoom In' عام 2020 و'Multimodal Neurons' عام 2021 مع كريس أولاه وآخرين، وبدأ في OpenAI عام 2023 بحثاً في التفسيرية الآلية يستعين بالذكاء الاصطناعي لتفسير عصبونات ذكاء اصطناعي آخر.
أسئلة سريعة
من نشر مقال 'Neural Networks Are Already Clean'؟
نيك كاماراتا، الباحث السابق في OpenAI والعامل حالياً في Goodfire، ونشره في 15 أكتوبر 2026.
ما نسبة العصبونات التي تؤدي وظيفة واحدة مهيمنة وفق المقال؟
قدّر كاماراتا أن نحو 90% من العصبونات التي حللها في نموذج Qwen3-32B تؤدي وظيفة واحدة مهيمنة، استناداً إلى تحليل أولي للقيم الإيجابية والسلبية.
كيف قيّم نيل ناندا المقال؟
قال على منتدى LessWrong إن العمل مثير للاهتمام لكنه ليس تقدماً على مستوى الصورة الكبرى في التفسيرية، مشيراً إلى أن مخططات الدوائر قد تغفل معلومات وأن العصبونات ضعيفة التنشيط لا تفسير كافياً لها.