التاج الإخباري -

تدرس شركة ميتا توسيع إجراءات السلامة الخاصة بمساعدها الذكي، عبر إخطار أولياء الأمور إذا ناقش المراهقون أفكارًا تتعلق بالانتحار أو إيذاء النفس مع روبوت "Meta AI"، مع العمل أيضًا على تطوير آلية للتواصل مع خدمات الطوارئ عندما تشير المحادثات إلى خطر وشيك، بحسب "Tech Crunch".

وأوضحت الشركة أن هذه الخطوة تأتي في ظل التدقيق المتزايد الذي تواجهه شركات التكنولوجيا من الجهات التنظيمية وأولياء الأمور بشأن كيفية تعامل روبوتات الذكاء الاصطناعي مع المستخدمين، ولا سيَّما المراهقين، أثناء الأزمات، وهو ما أصبح يؤثر على تصميم هذه المنتجات وآليات طرحها.

وقالت ميتا إنها طورت نظامًا مخصصًا يعتمد على الذكاء الاصطناعي لرصد المحادثات التي يُجري فيها المراهقون إشارات واضحة إلى إيذاء أنفسهم. وأضافت أن جميع المحادثات التي يرصدها النظام ستخضع لمراجعة بشرية قبل إرسال أي إشعار إلى ولي الأمر.

وأكدت الشركة أنه في الحالات التي تكون فيها نية المستخدم غير واضحة، ستُفضل إرسال التنبيه احترازيًّا، وإن أدى ذلك أحيانًا إلى إخطار أولياء الأمور في مواقف قد لا تمثل خطرًا حقيقيًّا، مشيرة إلى أنها ستواصل تحسين آليات الرصد لضمان تحقيق التوازن المناسب.

وبحسب ميتا، أصبحت هذه التنبيهات متاحة بالفعل لأولياء الأمور الذين يستخدمون ميزة "Parental Supervision" على إنستغرام في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، على أن تُطرح عالميًّا بحلول نهاية العام.

وأضافت الشركة أن التحديث الجديد يستند إلى إجراءات قائمة بالفعل، تشمل إرسال إشعارات عندما يكرر المراهق البحث عن مصطلحات تتعلق بالانتحار أو إيذاء النفس على "إنستغرام"، إضافة إلى ميزة تتيح لأولياء الأمور الاطلاع على الموضوعات التي ناقشها أبناؤهم مع "Meta AI" خلال الأسبوع الماضي.

كما أعلنت ميتا أن إعداد "المحتوى المحدود" (Limited Content)، الذي يمنح أولياء الأمور إمكانية فرض تجربة أكثر تقييدًا على حسابات المراهقين في "إنستغرام"، سيُطبَّق أيضًا على "Meta AI". وأوضحت أن المساعد الذكي مُدرَّب بالفعل على تجنب المحادثات ذات الطابع الجنسي أو العاطفي أو المتعلقة بالكحول مع المراهقين، بينما يوسّع الإعداد الجديد نطاق الحماية ليشمل رفض مجموعة أكبر من الطلبات.

وفي خطوة إضافية، قالت ميتا إنها ستتواصل مع خدمات الطوارئ إذا أشارت محادثة مع "Meta AI"، سواء لمستخدم بالغ أو مراهق، إلى وجود خطر انتحار وشيك، مشيرة إلى أن الشركة تطبق الإجراء نفسه بالفعل عند رصد منشورات على "فيسبوك" أو "إنستغرام" توحي بأن أحد المستخدمين قد يكون معرضًا لخطر الانتحار، وأن التحديث الجديد يوسّع هذه الممارسة لتشمل محادثات روبوت الذكاء الاصطناعي أيضًا.