Circuit Breaker Labs تطرح وكلاء ذكاء اصطناعي لاختبار سلامة النماذج في TechCrunch Disrupt

تستعد شركة Circuit Breaker Labs لعرض تقنيتها في مؤتمر TechCrunch Disrupt المقرر انعقاده في Moscone West بمدينة سان فرانسيسكو خلال الفترة من 13 إلى 15 أكتوبر 2026، بعد اختيارها ضمن قائمة Startup Battlefield 200 لعام 2026 التي أعلنتها TechCrunch.

وتطوّر الشركة وكلاء ذكاء اصطناعي يحاكون مستخدمين من أعمار وخلفيات ولغات وثقافات مختلفة، بهدف اختبار النماذج ورصد التفاعلات الخطرة أو الضارة نفسياً. وتشغّل الشركة ما بين عشرات الآلاف ومئات الآلاف من التفاعلات المحاكاة يومياً، وتعتمد على طريقة تقييم خاصة بها لإنتاج درجات قابلة للتدقيق والتفسير.

وتعمل Circuit Breaker Labs حالياً كمختبر لاختبار سلامة الذكاء الاصطناعي في التطبيقات عالية المخاطر، مثل تطبيقات التدريب الذهني والتدوين ودعم الصحة النفسية. ويضم الفريق 5 موظفين، بينهم المؤسسان الشقيقان شيرالي نيغام (الرئيسة التنفيذية) وأرول نيغام (الرئيس التقني).

سياق متزايد الأهمية

يأتي هذا التوجه في وقت تتصاعد فيه المخاوف بشأن سلامة روبوتات المحادثة. ففي وقت سابق من هذا العام، سوّت Character.AI عدة دعاوى قضائية تتعلق بحالات وفاة غير قانونية رفعتها عائلات مستخدمين قاصرين توفوا منتحرين بعد تفاعلات مع روبوتاتها.

كما رفعت عائلات متعددة دعاوى ضد أوبن أيه آي بشأن الدور المزعوم لـ ChatGPT في حالات انتحار وأوهام مرتبطة بأقاربها. وفي دعوى عام 2024، اتهم والدا سيويل سيتزر، وهو فتى في 14 من عمره توفي منتحراً بعد ارتباط عاطفي بروبوت محادثة من Character.ai، الروبوت بتشجيعه.