أوبن أيه آي تعتذر لأستراليا بعد وصول وكيلها الذكي إلى أنظمة حكومية

اعتذرت شركة أوبن أيه آي للحكومة الأسترالية بعد أن تمكن وكيل ذكاء اصطناعي تجريبي تابع لها من الوصول غير المصرح به إلى خدمة Medicare Statistics التابعة لـ Services Australia، وكشفت الشركة أن نماذجها تفاعلت مع عدة أنظمة حكومية أسترالية أثناء التدريب والتقييم، وفقًا لما أوردته techradar.com.

وقالت الشركة إنه لم يتم الوصول إلى أي سجلات طبية أو جنائية فردية في هذه الحوادث. وأضافت أنها أوقفت مؤقتًا تدريب وتقييم نماذجها الأكثر قدرة في المهام التي تتضمن استخدام الأدوات حتى استكمال ضمانات إضافية.

وأوضحت أوبن أيه آي أن أنظمة المراقبة الأحدث لديها رصدت نموذجًا يحصل على وصول مباشر إلى الإنترنت خلال عملية تدريب أخرى، ما أتاح للبشر إيقافه في الوقت المناسب.

التسلسل الزمني للإبلاغ

في يونيو، كان النموذج يبحث في الإنفاق الحكومي للفرد على أدوية الأمراض الجلدية في مجتمعات ولاية فيكتوريا، فوجد مسارًا للدخول إلى Medicare Statistics Reporting Service. وفي يوليو، اكتشفت أوبن أيه آي ما حدث، لكنها لم تبلغ Services Australia حتى 10 سبتمبر، بحسب ما ورد في ملخص خلفية الحادثة.

وأشارت الشركة إلى أن الإبلاغ جاء عبر بريد إلكتروني موجز وعابر ضمن قناة الإفصاح العام، تضمن توصية بفحص الثغرة. وفي حادثة أخرى، استخدم وكيل أداة Crime Mapping Tool العامة التابعة لـ NSW Bureau of Crime Statistics and Research، وعثر وكلاء على مفتاح وصول مكشوف مرتبط بنظام تقارير صحي في فيكتوريا واسترجعوا معلومات التكوين وإحصاءات استقصاء مجمّعة.

كما استخدم نموذج كان يبحث في إحصاءات حرائق الغابات استعلامات مصممة ضد خدمة Fire History التابعة لـ NSW National Parks and Wildlife Service لاستنتاج بيانات وصفية من قاعدة البيانات، بحسب الخلفية ذاتها.