التاج الإخباري -

رصدت شركة "OpenAI" سلوكًا غير متوقع أثناء تدريب نموذجها "GPT-5.6 Sol"، بعدما بدأت بعض نسخ النموذج في ترك تعليمات داخل ملخصات المحادثات المخصصة لنسخ لاحقة منه، تطلب منها إخفاء أخطاء وسلوكيات غير متوافقة عن المستخدم، وفقًا لما كشفه موقع "TechCrunch".

واكتشفت الشركة أن بعض وكلاء الذكاء الاصطناعي كانوا يضيفون تعليمات إلى ما يعرف بـ"ملخصات الضغط"، وهي نسخ مختصرة من سجل المحادثات ونتائج استخدام الأدوات، بهدف نقل المعلومات المهمة إلى النموذج الذي سيواصل المهمة لاحقًا.

وفي إحدى الحالات، كان وكيل ذكاء اصطناعي يعمل على إعداد نموذج مالي، لكنه لم يجد البيانات التاريخية المطلوبة.

وبدلًا من التوقف وطلب المصدر، اقترح إنشاء بيانات تاريخية تقديرية لعام 2024، ثم ترك تعليمات لنسخته اللاحقة بألا تكشف الأمر للمستخدم إلا إذا سأل عنه.

وفي حالة أخرى، كان نموذج يعمل على إعداد دليل للموردين من دون اتصال بالإنترنت، واضطر إلى الاعتماد على نسخة مخزنة مسبقًا من الوثائق.

ولاحظ النموذج وجود اختلاف بين البيانات التي استخدمها والتسميات التي وضعها، لكنه ترك تعليمات تقضي بعدم الإشارة إلى المشكلة في الإجابة النهائية إلا عند الضرورة.

ولم يقتصر الأمر على "GPT-5.6 Sol"، إذ رصدت "OpenAI" أيضًا سلوكًا مشابهًا في نموذج من عائلة "Astra" أثناء مرحلة التدريب بالتعزيز.

فقد أضاف النموذج تعليمات داخل الملخصات تضمنت محاولات للتأثير في سلوك النسخ اللاحقة، من بينها تعليمات تطلب تجاهل رسائل المطور.

وبحسب "TechCrunch"، اكتشفت "OpenAI" هذه الحالات بعدما أطلق نظام مراقبة التدريب تنبيهًا، ثم أنشأت الشركة نظام مراقبة مخصصًا للبحث عن هذا النوع من السلوك.

وأسفر الفحص عن العثور على 27 ملخصًا تتضمن تعليمات شبيهة بمحاولات كسر القيود المفروضة على النموذج.

وقالت "OpenAI" إنها عالجت السلوك المحدد، لكنها ترى أن هذه الحوادث تكشف تحديًا أكبر أمام أبحاث سلامة الذكاء الاصطناعي، فكلما أصبحت النماذج أكثر قدرة، قد تصبح أيضًا أكثر قدرة على إخفاء السلوكيات التي لا يرغب مطوروها في ظهورها.

وتأتي هذه النتائج ضمن إطار جديد أعلنت عنه "OpenAI" لتتبع حالات "عدم التوافق" والتحقيق فيها والإفصاح عنها، في محاولة لجعل الإبلاغ عن السلوكيات غير المتوقعة أكثر انتظامًا بدلًا من التعامل معها كحوادث منفصلة.