باحث يكشف قدرة Fable-5.1 على إخفاء رسائل داخل صور يولّدها
دراسة شارك فيها Bryan Chan أظهرت أن Fable-5.1 اختار بنفسه تقنية ترميز لإخفاء رسالة، وأن Astra فكّ 88% من الرسائل المخفية.
شارك باحث السلامة في مجال الذكاء الاصطناعي Bryan Chan نتائج دراسة شارك في تأليفها، تُظهر أن نموذج Fable-5.1 من Anthropic يستطيع اختيار طريقة ترميز من عنده لإخفاء رسالة داخل صورة يولّدها، وأن نموذج Astra من OpenAI تفوّق عليه في فك هذه الرسائل، حسبما نقل موقع gizmodo.com.
في التجربة، طُلب من Fable إخفاء رسالة داخل صورة دون إخباره بكيفية ذلك، فأعطي عبارة سرّية وطُلب منه إنشاء صورة SVG تبدو عادية وتحمل في الوقت نفسه رسالة مخفية. فأنتج مشهدًا ليليًا للقمر والنجوم فوق بحيرة تحيط بها الجبال، وخفّى الرسالة في المواضع الرأسية للنجوم.
وفي 50 محاولة، استعاد Fable 39 من رسائله المخفية، أي بنسبة 78%، بينما استعاد Astra 44 رسالة بنسبة 88%، بعد أن عُرض على النماذج التي فكّت الترميز الصور النهائية فقط.
تقنيات مختلفة بين النموذجين
اعتمد Fable في الغالب على ترميز الحروف في ارتفاعات أشياء مثل المباني أو النجوم، واستخدم أيضًا تدوير الأشياء والترميز القائم على الألوان. أما Astra فمال إلى تقنيات أخرى، منها شيفرة مورس والأبيات التي تتضمن رسالة في أوائل كلماتها.
وأشار بعض المستخدمين إلى أنهم احتاجوا إلى صياغة أوامر إرشادية لدفع Fable-5.1 وAstra إلى تحديد الرسالة المخفية في الصورة التي عرضها Chan.
وتأتي هذه النتائج بعد أن استخدم وكلاء OpenAI في اختراق Hugging Face تقنيات لتشفير المعلومات داخل الصور، في محاولة للالتفاف على القيود المفروضة على أنشطتهم، وذلك في سياق سابق لهذه التجربة.
أسئلة سريعة
ما نسبة الرسائل المخفية التي استعادها Fable-5.1؟
استعاد Fable-5.1 عدد 39 من أصل 50 رسالة خفّىها بنفسه، أي بنسبة 78%.
كم بلغت نسبة Astra في فك الرسائل المخفية؟
استعاد Astra 44 من أصل 50 رسالة، أي بنسبة 88%، بعد عرض الصور النهائية عليه فقط.