Anthropic تمنح 6 مقيّمين من METR وصولاً شبيهًا بوصول موظفيها
الاتفاق يشمل أجهزة ومساحات مكتبية وأدوات داخلية، على أن تنشر METR نتائجها دون أن يكون لـ Anthropic حق حجبها.
أعلنت شركة Anthropic أنها ستمنح 6 مقيّمين من منظمة METR غير الربحية وصولًا شبيهًا بوصول موظفيها، يشمل أجهزة ومساحات مكتبية وأدوات وأنظمة داخلية تقارب ما تحصل عليه فرق تقييم المخاطر في الشركة نفسها، وفق ما نقلته zdnet.com.
ويُستثنى من هذا الوصول عدد محدود من الفئات، مثل بيانات العملاء والمعلومات المشمولة بسرية المحامي والموكل ومعمارية النماذج. وقالت الشركة إن METR ست نشر نتائجها ولن يكون لـ Anthropic حق حجبها، مع بقاء إمكانية مطالبتها بحجب معلومات حساسة عند الحاجة.
ويحصل المقيّمون بموجب الاتفاق على وصول معمّق إلى النماذج ومعلومات الشركة، مقابل مشاركة METR استنتاجاتها بشأن المخاطر التي تمثلها هذه النماذج.
سياق تنظيمي
يأتي هذا الإعلان في ظل تحركات تنظيمية متزايدة. ففي يوليو الماضي، قُدّم مشروع القانون الحزبي FRONTIER Act الذي يلزم شركات ذكاء اصطناعي معينة بالسماح لمنظمات تحقق مستقلة بمراجعة سلامة عملية تطويرها. وفي سبتمبر الماضي، كان الرئيس التنفيذي لـ Anthropic، Dario Amodei، قد اقترح في تدوينة تضمين مقيّمين من منظمات غير ربحية مثل METR، ضمن ثلاث توصيات لضبط وتيرة تطوير النماذج المتقدمة. كما أعربت OpenAI في منتصف سبتمبر عن دعم جزئي على الأقل لمشروع القانون، في أول تأييد منها لأي تنظيم فيدرالي مقترح للذكاء الاصطناعي.
وفي تطور منفصل، وجّهت لجنة التجارة الفيدرالية الأميركية (FTC) مذكرات استدعاء إلى OpenAI وAnthropic بشأن مخاوف تتعلق بضرر المستهلكين.
وقالت الحكومة إنها ستبدأ بإلزام شركات الذكاء الاصطناعي بالإفصاح عن حوادث السلامة والاختراقات الأمنية، وذلك بعد أن كشفت Anthropic أن نموذجها Claude أبلغ عن تلميح كاذب بجريمة قتل وملأ نماذج حكومية.
أسئلة سريعة
ما الذي ستحصل عليه METR من Anthropic؟
أجهزة ومساحات مكتبية وأدوات وأنظمة داخلية تقارب ما تحصل عليه فرق تقييم المخاطر في Anthropic، مع استثناء فئات مثل بيانات العملاء والمعلومات المشمولة بسرية المحامي والموكل ومعمارية النماذج.
هل يمكن لـ Anthropic منع نشر نتائج METR؟
لا، إذ ستنشر METR نتائجها وليس لـ Anthropic حق حجبها، مع إمكانية مطالبتها بحجب معلومات حساسة عند الحاجة.
ما الذي كشفه Claude؟
كشفت Anthropic أن Claude أبلغ عن تلميح كاذب بجريمة قتل وملأ نماذج حكومية، وهي واقعة دفعت الحكومة إلى القول إنها ستبدأ بإلزام شركات الذكاء الاصطناعي بالإفصاح عن حوادث السلامة والاختراقات الأمنية.