التاج الإخباري -

كشفت تقارير إعلامية أن ميزة المكالمات في وكيل الذكاء الاصطناعي «ميوز» التابع لشركة «ميتا» لم تكن تعتمد دائمًا على الذكاء الاصطناعي وحده، إذ جرى تحويل بعض المهام إلى موظفين بشريين في مراكز اتصال، من دون إبلاغ المستخدمين مسبقًا.

وأثارت هذه الخطوة مخاوف بشأن الخصوصية ومدى شفافية الشركة في عرض قدرات وكيلها الذكي.

وتأتي أحدث هذه الحالات من شركة «ميتا»، التي أطلقت في منتصف أيلول اختبارًا تجريبيًا لميزة ضمن وكيل الذكاء الاصطناعي الجديد «ميوز»، تتيح له إجراء مكالمات إلى الشركات نيابة عن المستخدم لتنفيذ مهام، مثل حجز الطاولات أو المواعيد.

لكن تقارير نشرتها «رويترز» و«404 ميديا» كشفت أن الوكيل، الذي يُفترض أنه يعمل بصورة مستقلة، كان يستطيع تحويل هذه المهام إلى موظف بشري مدرّب يعمل في مركز اتصال، من دون إبلاغ المستخدم مسبقًا بإمكانية حدوث ذلك.

وفي 16 أيلول، أعلن المهندس الرئيسي رايان فوكس في مختبرات «ميتا» للذكاء الفائق إطلاق النسخة التجريبية من ميزة المكالمات الصادرة في «ميوز»، وطلب من المستخدمين عبر منصة «إكس» تقديم آرائهم، مشيرًا إلى أن «إجراء المكالمات الهاتفية» كان من أكثر المزايا التي طلبها المستخدمون.

وقال فوكس في منشوره إن الشركة وسعت الاختبار التجريبي للمكالمات الصادرة إلى الشركات الأميركية، مع إعطاء الأولوية للمستخدمين الذين سبق أن أبدوا رغبتهم في استخدام هذه الخاصية.

لكن موقع «404 ميديا» قال إنه، استنادًا إلى سجلات داخلية في «ميتا»، كانت الشركة تنفذ شيئًا مختلفًا خلف الكواليس.

فعند الإعلان داخليًا عن الميزة للموظفين، قالت الشركة إنها «أضافت طبقة من الوكلاء البشريين لإتمام المكالمات»، وأطلقت عليها اسم «مكالمات الوكلاء البشريين في ميوز».

وأبدى بعض موظفي «ميتا» اعتراضهم على هذه الخطوة، إذ كتب أحدهم داخليًا: «هذا يحمل احتمالًا كبيرًا لردود فعل إعلامية سلبية. فقد يُصوَّر الأمر على أن ذكاءهم الاصطناعي ليس جيدًا بما يكفي، ولذلك ما زالوا بحاجة إلى البشر».

المشكلة لا تتعلق فقط بالذكاء الاصطناعي

لا تكمن المشكلة في الاستعانة بالبشر فقط، ولا في المبالغة في تصوير قدرات «ميوز» على أنها مستقلة بالكامل، كما لا تتعلق حصراً بعدم الكشف عن وجود شخص بشري ضمن سلسلة تنفيذ المهمة.

فبعض أنظمة الوكلاء الذكية تعتمد بالفعل على إشراف بشري يُعرف بمفهوم «الإنسان ضمن الحلقة»، بهدف ضمان السلامة والامتثال.

لكن ليس واضحًا إلى أي مدى كان هذا التدخل البشري في حالة «ميتا» مرتبطًا فعلًا بالسلامة والامتثال.

وأثار موظفون داخل الشركة مخاوف أكبر تتعلق بالخصوصية. ونقلت «رويترز» عن أحد الموظفين قوله: «نحن على بُعد خطأ برمجي واحد فقط من تسريب معلومات غير ضرورية إلى الأشخاص الذين يجرون المكالمات».

وعادةً ما يضحي المستخدم بجزء من خصوصيته عندما يسمح لوكيل ذكاء اصطناعي بتنفيذ مهام شخصية، مثل إجراء حجز أو عملية شراء أو تحديد موعد طبي.

لكن الأمر قد يكون أكثر حساسية عندما يكتشف المستخدم أن شخصًا غريبًا هو من قام فعليًا بحجز موعد طبي شديد الخصوصية نيابة عنه.

كما أن العملية تظل أشبه بـ«صندوق أسود»، إذ لا يعرف المستخدم بالضبط ما المعلومات التي يحصل عليها موظف مركز الاتصال، وما إذا كان يستطيع رؤية المحادثات السابقة أو معرفة مكان إقامة المستخدم أو بيانات الاتصال الخاصة به.

وقد تصبح هذه المخاوف أكثر أهمية مع توسع «ميتا» في دمج «ميوز» ضمن أجهزتها الأخرى، بما في ذلك النظارات الذكية.

ويعني ذلك أيضًا أن المستخدم قد يشارك معلومات حساسة مع ما يُسمى «الوكيل المستقل»، بينما يكون الطرف الذي يتعامل معها فعليًا موظفًا بشريًا في مركز اتصال لم يُكشف عن موقعه أو هويته.

وقد تتضمن هذه البيانات أرقام الهواتف، أو أرقام تعريف المرضى، أو بيانات مصرفية.

وتأتي هذه الخطوة ضمن توجه أوسع في قطاع التكنولوجيا نحو منح نماذج الذكاء الاصطناعي القدرة على تنفيذ مهام نيابة عن المستخدمين بصفتها مساعدين شخصيين.

وفي الأسبوع نفسه، أعلنت «غوغل» عن ميزة لوكيل «جيميني» تسمح له بإجراء مكالمات هاتفية يومية بالنيابة عن المستخدم.

لكن تطبيق «غوغل» يعيد للمستخدم السيطرة على الجزء المتعلق بالمعاملات الحساسة أثناء المكالمة، مثل تقديم بيانات بطاقة الائتمان، بدلًا من السماح للوكيل بإدخالها نيابة عنه.

ومع ذلك، تبقى المخاطر المرتبطة بالخصوصية والأمان قائمة.

تاريخ سابق من مشكلات الخصوصية

وتزداد حساسية القضية بالنظر إلى سجل «ميتا» السابق في قضايا الخصوصية.

ففي عام 2019، اضطرت «فيسبوك» إلى إيقاف برنامج كان يعتمد على متعاقدين للاستماع إلى مكالمات «ماسنجر» ونسخ محتواها.

ونظرًا إلى أن وكلاء الذكاء الاصطناعي يحتاجون في كثير من الحالات إلى تدخل بشري للتحقق من أنهم ينفذون المهام المطلوبة بصورة صحيحة، فمن المرجح أن تظهر مواقف يتمكن فيها موظف بشري من الوصول إلى معلومات لم يكن من المفترض أن يطّلع عليها.

وليست هذه الظاهرة محصورة في المكالمات الهاتفية.

ففي شباط، كُشف أن شركة «وايمو» كانت تستعين بمشغلين عن بُعد لدعم عمليات السيارات ذاتية القيادة خارج الولايات المتحدة.

ويشار أحيانًا إلى هذا النوع من الأنظمة باسم «الذكاء الاصطناعي البوتيمكيني»، حيث يبدو النظام مستقلًا بالكامل في الظاهر، بينما يقوم جيش غير مرئي من العمال البشريين بتنفيذ جزء من العمل خلف الكواليس.

وفي نهاية المطاف، تراجعت «ميتا» مرة أخرى عن إطلاق ميزة المكالمات الصادرة في «ميوز».

وذكرت «رويترز» أن الشركة علقت الميزة مؤقتًا بعدما أقر أحد نواب الرؤساء في وحدة مختبرات «ميتا» للذكاء الفائق بأن بدء اختبار الميزة من دون تقديم إفصاح كافٍ عن دور المتعاقدين البشريين كان «خطأً».

وترى الكاتبة أن المشكلة الحقيقية لا تتعلق فقط بضعف ذاكرة شركات التكنولوجيا الكبرى، بل بنمط متكرر يتمثل في إطلاق ممارسات مثيرة للجدل، ثم التراجع عنها بعد انكشافها، والاعتذار، وربما دفع غرامة محدودة، قبل تكرار الدورة من جديد.