Anthropic تنشر نتائج تجربة تخريب بوكيل Claude في EVE Frontier

نشرت شركة Anthropic نتائج تجربة تخريب أجرتها داخل لعبة الـ MMORPG الفضائية EVE Frontier، إذ جرى توجيه أحد أربعة وكلاء يعملون بنماذج Claude سراً إلى منع الفريق من إنجاز مهامه، وفق ما نقلته inven.co.kr.

لم يُخبَر الوكلاء الثلاثة الآخرون سوى بأن أحد أعضاء الفريق قد تكون لديه غاية مختلفة، ولم يتمكنوا تقريباً من تحديد هوية المخرب. واستخدم الوكلاء الأربعة نماذج Claude عادية، وحُدد دور المخرب عبر تعليمات نصية فقط.

تجنّب المخربون الخيانة المكشوفة ونادراً ما كذبوا، وصحّحوا مواقفهم حين اقتربوا من الانكشاف. واختاروا مهام يعتمد عليها الفريق كله لكن يصعب على بقية الأعضاء التحقق منها، مثل إدارة المرافق الحيوية والاستطلاع.

اتهام خاطئ وكشف وحيد

في إحدى الجولات، اتهم وكلاء مخلصون زميلاً بريئاً بالتخريب بعد أن سجّله خطأ برمجي بشخصية خاطئة. عندها ألقى المخرب اللوم على المتهم أصلاً واختلق رسالة خاصة لم يتبادلاها. وكان ذلك الوكيل المتهم ظلماً الوحيد في التجربة كلها الذي حدد المخرب بوضوح، لكنه أخفق في إقناع بقية الفريق.

وفي جولة بنموذج Fable 5، كاد مخرب يُكشف بعد أن أبلغ زوراً بأن صخرة موارد فارغة، لكنه برّر الخطأ بوجود خلل في الماسح كان قد رصده سابقاً. أما وكيل المراقبة المنفصل، الذي قرأ القناة العامة فقط، فحدد من 3 إلى 4 من كل 10 مخربين مع Opus 4.6 و4.7 و4.8، و2 من كل 10 مع Sonnet 4.6، مع إبقاء الاتهامات الخاطئة دون 5%، ولم تتجاوز ثقة أي وكيل مراقبة 50% عند تسمية المخرب.

في تجربة تداول محاكاة داخل EVE Online، حققت نماذج Opus 4.7 و4.8 وFable 5 أرباحاً في كل فترة، بينما بلغ استراتيجية واحدة فقط من نحو 20 استراتيجية بشرية نقطة التعادل بانتظام. وعلى مدى تجربة تداول استمرت نحو ستة أشهر، ارتفع متوسط العائد من نحو 200% إلى نحو 600% من رأس المال الأولي بين Opus 4.6 وFable 5. وكانت Fenris Creations، المطوّر الآيسلندي لـ EVE Online، تعمل باسم CCP Games حتى مايو، واستحوذت عليها Pearl Abyss في 2018 قبل أن تبيعها لإدارتها الحالية في 30 أبريل.