أعلن معنا
الذكاء الاصطناعي

Scatter Lab تشكّل فريق أمان وثقة يتبع الرئيس التنفيذي مباشرة

الفريق الجديد يشرف على سياسة سلامة المحتوى وتطوير نماذج الذكاء الاصطناعي ومراجعتها، ضمن حزمة إجراءات لحماية المراهقين في خدمة Zeta.

أعلنت شركة Scatter Lab يوم 17 نوفمبر أنها أنشأت فريق أمان وثقة يتبع الرئيس التنفيذي مباشرة، ضمن حزمة إجراءات تستهدف حماية المراهقين في خدمتها التفاعلية بالذكاء الاصطناعي Zeta. وأورد الخبر موقع aitimes.com.

يتولى الفريق الجديد الإشراف على سياسة سلامة المحتوى، وعلى تطوير نماذج الذكاء الاصطناعي الخاصة بالشركة ومراجعتها. وتعتزم الشركة تحسين نماذجها وضوابط مراجعة المحتوى قبل نهاية هذا العام، بحيث تُصنَّف تقييمات الاستخدام بوضوح أكبر.

وتجري المراجعة على ثلاث مراحل: الإنتاج والنشر ثم الظهور في الخدمة. كما ستُعدّ Scatter Lab سياسات محتوى ومعايير مراجعة لكل بلد، من بينها كوريا واليابان والولايات المتحدة، وستُفصل المحتوى المتاح حسب نتيجة التحقق من العمر.

وتخطط الشركة لإطلاق أدوات داخل الخدمة تحظر المحادثات غير اللائقة وتضع معايير كلام مناسبة لكل فئة عمرية، مع إشعارات دورية بأن المستخدم يتحدث إلى ذكاء اصطناعي، وتقديم معلومات ذات صلة عند رصد محتوى يتعلق بالانتحار أو إيذاء النفس.

وفي كوريا، تعتزم Scatter Lab تطبيق حد يومي قدره 3 ساعات للمستخدمين المراهقين، وسقف شهري للدفع قدره 100,000 وون، وذلك خلال العام. وقالت الشركة إنها ستواصل مناقشة حقوق الملكية الفكرية وتدابير حماية الشباب مع الجهات التنظيمية ومتاجر التطبيقات وقطاع المحتوى.

خلفية الإجراءات

في وقت سابق، أُوقفت التنزيلات الجديدة لـ Zeta على متجر Apple App Store، ما دفع الشركة إلى اتخاذ إجراءات وقائية.

أسئلة سريعة

ما هو فريق أمان وثقة الذي أنشأته Scatter Lab؟

فريق يتبع الرئيس التنفيذي مباشرة ويشرف على سياسة سلامة المحتوى وتطوير نماذج الذكاء الاصطناعي الخاصة بالشركة ومراجعتها.

ما الإجراءات الجديدة لحماية المراهقين في Zeta؟

حد يومي قدره 3 ساعات وسقف شهري للدفع قدره 100,000 وون في كوريا، وفصل المحتوى حسب التحقق من العمر، وحظر المحادثات غير اللائقة داخل الخدمة.

متى تبدأ هذه الإجراءات؟

قالت Scatter Lab إنها تعتزم تطبيق الإجراءات خلال هذا العام، دون تحديد تاريخ بدء.

المصادر