ميتا تطلق إجراءات جديدة لحماية المراهقين من الانتحار

اشترك مجانا بقناة الديار على يوتيوب

في محاولة لتعزيز حماية المستخدمين الأصغر سنًا، تعمل "ميتا" على تطوير إجراءات أمان جديدة لمساعدها الذكي "Meta AI"، تشمل تنبيه أولياء الأمور بشأن محادثات المراهقين المرتبطة بإيذاء النفس أو الأفكار الانتحارية، وربط الحالات الخطرة المحتملة بخدمات الطوارئ.

وأوضحت الشركة أن هذه الخطوة تأتي في ظل التدقيق المتزايد الذي تواجهه شركات التكنولوجيا من الجهات التنظيمية وأولياء الأمور بشأن كيفية تعامل روبوتات الذكاء الاصطناعي مع المستخدمين، ولا سيَّما المراهقين، أثناء الأزمات، وهو ما أصبح يؤثر على تصميم هذه المنتجات وآليات طرحها.

وقالت ميتا إنها طورت نظامًا مخصصًا يعتمد على الذكاء الاصطناعي لرصد المحادثات التي يُجري فيها المراهقون إشارات واضحة إلى إيذاء أنفسهم. وأضافت أن جميع المحادثات التي يرصدها النظام ستخضع لمراجعة بشرية قبل إرسال أي إشعار إلى ولي الأمر.

وأكدت الشركة أنه في الحالات التي تكون فيها نية المستخدم غير واضحة، ستُفضل إرسال التنبيه احترازيًّا، وإن أدى ذلك أحيانًا إلى إخطار أولياء الأمور في مواقف قد لا تمثل خطرًا حقيقيًّا، مشيرة إلى أنها ستواصل تحسين آليات الرصد لضمان تحقيق التوازن المناسب.

وبحسب ميتا، أصبحت هذه التنبيهات متاحة بالفعل لأولياء الأمور الذين يستخدمون ميزة "Parental Supervision" على إنستغرام في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، على أن تُطرح عالميًّا بحلول نهاية العام.

وأضافت الشركة أن التحديث الجديد يستند إلى إجراءات قائمة بالفعل، تشمل إرسال إشعارات عندما يكرر المراهق البحث عن مصطلحات تتعلق بالانتحار أو إيذاء النفس على "إنستغرام"، إضافة إلى ميزة تتيح لأولياء الأمور الاطلاع على الموضوعات التي ناقشها أبناؤهم مع "Meta AI" خلال الأسبوع الماضي.

كما أعلنت ميتا أن إعداد "المحتوى المحدود" (Limited Content)، الذي يمنح أولياء الأمور إمكانية فرض تجربة أكثر تقييدًا على حسابات المراهقين في "إنستغرام"، سيُطبَّق أيضًا على "Meta AI". وأوضحت أن المساعد الذكي مُدرَّب بالفعل على تجنب المحادثات ذات الطابع الجنسي أو العاطفي أو المتعلقة بالكحول مع المراهقين، بينما يوسّع الإعداد الجديد نطاق الحماية ليشمل رفض مجموعة أكبر من الطلبات.

وقالت "ميتا" إنها ستوسّع آليات التدخل لتشمل محادثات "Meta AI"، بحيث يتم إبلاغ خدمات الطوارئ عند رصد مؤشرات على خطر انتحار وشيك، بعد أن كانت هذه الإجراءات مقتصرة على المحتوى المنشور عبر "فيسبوك" و"إنستغرام".