Anthropic تمنح باحثين من METR صلاحية موظفين للنشر المستقل

أعلنت شركة Anthropic أنها منحت ستة باحثين من منظمة METR غير الربحية المتخصصة في تقييم نماذج الذكاء الاصطناعي صلاحية وصول بمستوى الموظفين إلى أنظمتها الداخلية للتقييم، ما يتيح لهم نشر تقارير تقييم بشكل مستقل. وذكرت الشركة أن هؤلاء الباحثين حصلوا على أجهزة ومساحات مكتبية ووصول إلى الأدوات والأنظمة الداخلية التي توفرها Anthropic، وفق ما أوردته aitimes.com.

وبحسب الشركة، فإن مستوى الوصول الممنوح لباحثي METR يقارب المستوى المتاح لفريق تقييم المخاطر الداخلي لدى Anthropic. ويشمل ذلك قدرة METR على نشر تقارير تقييم مستقلة تتعلق بمستويات المخاطر والحوادث وممارسات السلامة لدى Anthropic.

ولا تستطيع Anthropic رفض نشر تلك التقارير، بل يمكنها فقط طلب حذفها أو تعديلها ضمن فئات محددة مسبقاً تشمل بيانات العملاء والمعلومات المشمولة بسرية المحامي-الموكل ومعمارية النموذج.

نظام من ثلاث طبقات وشراكات موسعة

وتُعدّ METR مشاركاً في الطبقة الثالثة ضمن نظام من ثلاث طبقات تعده Anthropic لتنظيم وصول المقيّمين الخارجيين. وإلى جانب ذلك، تسعى الشركة إلى التعاون مع Accenture ووحدة أعمالها في الذكاء الاصطناعي Faculty في مجالات تقييم النماذج واختبارات الفرق الأحمر وتقييم المواءمة والتحقق من حواجز السلامة.

وقالت Anthropic إنها تجري محادثات مع منظمات أخرى من بينها Hugging Face، وقارنت هذا التعاون بنظام الرقابة المصرفية.

وفي سياق متصل، كانت METR قد نشرت في 14 أكتوبر مقترحات تهدف إلى إطلاع الجمهور بشكل أفضل على مخاطر «فقدان السيطرة» في تطوير الذكاء الاصطناعي المتقدم. وفي الشهر الماضي، اقترح Dario Amodei، الرئيس التنفيذي لشركة Anthropic، إشراك مقيّمين مستقلين داخل الشركات لإدارة وتيرة تطوير الذكاء الاصطناعي المتقدم، قبل أن تعلن شركات ذكاء اصطناعي كبرى عبر اتفاق «الذكاء الفائق» في البيت الأبيض تعاونها مع مقيّمين خارجيين مستقلين. كما أجرت SecureBio تقييمات لمخاطر الأسلحة الكيميائية والبيولوجية ضمن تقرير المخاطر الذي أصدرته Anthropic في أغسطس.