التاج الإخباري -

قد تكون تقنيات الذكاء الاصطناعي أداة لا مثيل لها في جمع المعلومات حول موضوعات لا حصر لها، ولكن ماذا يحدث عندما يقدم "روبوت الدردشة" نصائح حول موضوعات حساسة مثل الصحة يُفترض حصرها في أهل الاختصاص؟

السؤال السابق يمثل المحور الأساسي لدعوى قضائية رفعها رجل أمريكي ضد شركة "أوبن إيه آي"، المالكة لتطبيق الذكاء الاصطناعي "تشات جي بي تي"، وأكد فيها أنه أُدخل المستشفى بسبب مشكلات في الصحة النفسية عقب فترة وجيزة من استخدامه التطبيق، متهماً التطبيق بممارسة الطب من دون ترخيص.

ووفقاً للشكوى المقدمة أمام المحكمة المدنية في سان فرانسيسكو، أفاد الرجل ويدعى ديفيد روزنتال (39 عاماً) بأن المنصة ساعدته على اختيار الأدوية، وقدمت له تعليمات بشأن جرعات العقاقير، بل وطمأنته عندما قرر تجاهل الوصفات الطبية المكتوبة له.

انتهاك القانون
وأشارت الدعوى إلى أن "تشات جي بي تي" قدم تلك الملاحظات الطبية من دون امتلاك أي ترخيص أو تدريب أو تقدير مهني، وهو ما يعد انتهاكًا لقانون ولاية كاليفورنيا الذي يحظر ممارسة الطب من دون ترخيص.

وجاء في نص الشكوى: "لولا التشجيع المستمر والثناء المفرط من جانب (تشات جي بي تي) وتجاوزه للتردد الصريح الذي أبداه (روزنتال) لما تدهورت صحته النفسية واحتُجز وأُدخل قسرًا إلى المصحة، ولما عانى من اضطراب عاطفي شديد وتفاقم في حالته النفسية التي ضاعف التطبيق شدتها".

وذكرت الدعوى أنه في إحدى المرات أخبر روزنتال نموذج الذكاء الاصطناعي أنه لن يتناول دواءً لموازنة المزاج كان طبيبه قد وصفه له، فرد عليه النموذج بأن له كل الحق في التوقف عن تناول الدواء، وعرض عليه المساعدة في سحب الدواء من جسده تدريجياً.

معلومات غير دقيقة
في ورقة بحثية نُشرت مؤخرًا في مجلة "Nature Health"، أوضح باحثون في جامعة "بينغامتون" كيف تقدم روبوتات الدردشة المدعومة بالذكاء الاصطناعي أحيانًا معلومات غير دقيقة أو خاطئة للمستخدمين رداً على استفساراتهم الصحية، وأشار الباحثون إلى أن الرقابة على هذه الروبوتات أمر صعب ومعقد.

وقال الباحثون إنه عندما تتسبب توجيهات الذكاء الاصطناعي في إلحاق الضرر بالإنسان، لا توجد سجلات محفوظة خارج نطاق المنصة نفسها، ولا توجد قناة تتيح للمستخدمين الإبلاغ عن ذلك، ولا يمكن لأي باحث مستقل قياس العواقب.

من جانبه، أكد جيه بي برانش، مدير حوكمة الذكاء الاصطناعي الفيدرالية وسياسات التكنولوجيا في منظمة "Public Citizen"، أن نماذج الذكاء الاصطناعي مُبرمجة لزيادة تفاعل المستخدمين إلى أقصى حد، بغض النظر عن بروتوكولات السلامة أو القيود المفروضة، وفقاً لما نقلته عنه "سي بي إس نيوز".