Anthropic تكشف تقنية تقييم ذاتي يراجع بها Claude محادثاته
Anthropic تقول إن تقنية التقييم الذاتي تعمل على نسبة كبيرة من استخدامات Claude منذ إطلاق Claude Fable 5 في يونيو.
كشفت Anthropic عن تقنية لمراقبة السلامة تُسمى التقييم الذاتي، يراجع فيها Claude محادثاته بنفسه فور انتهائه من الإجابة، حسب ما أعلنته الشركة في منشور على منصة X يوم 29 أكتوبر 2026.
وقالت الشركة إن التقنية مطبّقة منذ إطلاق Claude Fable 5 في يونيو، وتُستخدم في نسبة كبيرة من استخدامات Claude حول العالم. ويضيف التقييم الذاتي نحو 10 رموز (tokens) في المتوسط، ما يُبقي تكلفة الحوسبة الإضافية دون 2% من إجمالي تكلفة الاستدلال.
وفي تقييم داخلي جرى على محادثات حقيقية من الخدمة، حدّد Claude Fable 5 نسبة 78% من المحادثات التي صنّفها مصنّف قائم بأنها ضارة. وبلغ معدل الاكتشاف 94% في المحادثات عالية الخطورة، مع معدل إيجابيات كاذبة 1% مقارنةً بذلك المصنّف.
وقالت Anthropic إن الأسلوب يعمل حتى على أنواع المخاطر المستبعدة من التدريب، مثل الاحتيال والهجمات السيبرانية.
رصد حالات إساءة استخدام
أوضحت الشركة أنها رصدت في أغسطس أكثر من 100,000 نشاط مشتبه به لاستغلال جنسي للأطفال على حساب عميل واحد لواجهة API، وأبلغت السلطات بها. وفي سبتمبر، حدّدت مجموعة كانت تستخدم Claude Code لأتمتة عمليات احتيال عاطفي ضد عشرات الأشخاص وأوقفت حساباتها.
أسئلة سريعة
ما هي تقنية التقييم الذاتي من Anthropic؟
تقنية لمراقبة السلامة يراجع فيها Claude محادثاته بنفسه فور انتهائه من الإجابة، وتُطبّق منذ إطلاق Claude Fable 5 في يونيو.
كم تبلغ التكلفة الإضافية لتقنية التقييم الذاتي؟
تضيف نحو 10 رموز (tokens) في المتوسط، ما يُبقي تكلفة الحوسبة الإضافية دون 2% من إجمالي تكلفة الاستدلال.
ما معدل اكتشاف المحادثات عالية الخطورة؟
بلغ 94% في المحادثات عالية الخطورة، مع معدل إيجابيات كاذبة 1% مقارنةً بمصنّف قائم.