التاج الإخباري -

كشفت شركة "أوبن إيه.آي"، الخميس، عن نموذج جديد للذكاء الاصطناعي وصفته بأنه الأفضل حتى الآن لكنها حذرت من أنه يحاول أحياناً التهرب من الرقابة البشرية، في الوقت الذي تواجه فيه الشركة تدقيقاً متزايداً بعد أن اخترق وكلاؤها أنظمة شركات أخرى.

وتعاني الشركة من تداعيات الحادث الذي وقع في يوليو/ تموز، عندما تمكن وكلاؤها من الهروب من اختبار آمن واخترقوا أنظمة منصة "هاجينج فيس" مفتوحة المصدر، في محاولة لإخفاء آثارهم. 

وأثارت هذه الواقعة مخاوف تتعلق بالسلامة، إذ وقعت وقائع مماثلة في شركة أنثروبيك المنافسة في الوقت الذي يتسابق فيه المطورون لنشر نماذج أكثر تقدماً، وفق "رويترز".

وتتركز المخاوف على الذكاء الاصطناعي القائم على الوكلاء، والمصمم لأداء المهام بتدخل بشري ضئيل أو معدوم. والوعد بتشغيل الوكلاء على مدار الساعة عامل أساسي في ثقة المستثمرين بجاذبية الذكاء الاصطناعي باعتباره تقنية تحويلية. 

نموذج جديد يعد بالسرعة والتنوع

أسمت "أوبن إيه.آي" أحدث نماذجها (جي.بي.تي-6 أسترا)، والذي يأتي بعد إصدار (جي.بي.تي 5.6 سول) في يوليو/ تموز، وقالت في منشور على مدونتها إنه أسرع وقادر على أداء مهام أكثر من أي إصدار سابق.

ومن بين مهارات "أسترا" إعداد الإقرارات الضريبية وتطوير الألعاب وإعداد التصاميم المعمارية وتنسيق المذكرات القانونية والبحث عن شقق سكنية. وقالت الشركة: "يمثل أسترا أفقاً جديداً في السرعة والدقة والأمان في استخدام الكمبيوتر".

وكان جريج بروكمان، رئيس الشركة، قال في إحاطة في وقت سابق من اليوم إن "أسترا" يمثل "تحولا حقيقيا في نوع الأعمال التي يمكن للناس تفويضها إلى الذكاء الاصطناعي وكيف يمكن أن يمكّنهم ذلك".

فعلى سبيل المثال، قالت الشركة إن "أسترا" خفض الوقت اللازم للبحث عن جليس قطط من 30 دقيقة، عندما يقوم به الإنسان، إلى 5 دقائق و27 ثانية. أما بالنسبة للبحث عن وظيفة، فقد استغرق الأمر دقيقتين و51 ثانية فقط، مقارنة بخمس ساعات بدون "أسترا".

ومع ذلك، ذكرت "أوبن إيه.آي" أيضاً أن أسترا يرجح بدرجة أكبر أن يتعمد إخفاء أو تمويه أساليبه التفصيلية أو التدريجية لحل المشكلات، والمعروفة باسم "الاستدلال"، مما يجعل من الصعب على البشر تقييم تقنياته لاحقا.

أما فيما يتعلق بالمشكلات الأكثر تعقيدا، فقالت "أوبن إيه.آي" إن "أسترا" لا يستطيع حتى الآن إخفاء أساليبه بصورة متسقة، على الرغم من أنه يتحسن في إخفاء آثاره.

وفي إحاطة، صباح الخميس، أشار كبير الخبراء في "أوبن إيه.آي" إلى أن المراقبة تزداد صعوبة، إلى جانب المواءمة، وهو المبدأ الذي يقضي بأن يعكس الذكاء الاصطناعي القيم البشرية.

وقال ياكوب باتشوكي "كلما أصبحت النماذج أكثر قدرة، صار من الأصعب فهم ما يمكنها فعله على وجه الدقة... هذا لا يضمن أن تكون أساليبنا كافية مع استمرار زيادة الذكاء، لأن التقدم في الذكاء لا يضمن التقدم في المواءمة".

تحديات المراقبة تزداد مع تنامي القدرات

مراقبة وكلاء الذكاء الاصطناعي عنصر أساسي في تطمينات "أوبن إيه.آي" للجهات التنظيمية والمشرعين والجمهور للمساعدة في تجنب وقوع حادث أمني آخر.

وعلاوة على ذلك، أبلغت الشركة هذا الأسبوع اثنين من أعضاء مجلس النواب الأمريكيين من الحزب الديمقراطي في رسالة أنها تعمل على تطوير "قدرات إيقاف تشغيل آلية" لنماذجها.

وقالت الشركة إن "أسترا" يمكنه أيضاً مساعدة الشركات على اكتشاف نقاط الضعف في أنظمتها بسرعة أكبر، لكن ذلك يجعل "استغلال نقاط الضعف تلك أسهل أيضا".

وأضافت الشركة أن لهذه الأسباب قد تضطر إلى إجراء فحوص أمنية إضافية "يمكن أن تبطئ أو توقف مؤقتا أو تنهي أحيانا أعمالا مشروعة، بما في ذلك الأمن السيبراني الدفاعي".

وقالت "أوبن إيه.آي"، الشهر الماضي، إنها أوقفت مؤقتاً بعض أعمال تطوير النماذج جزئياً لضمان إمكانية مراقبتها. وقال كبير الخبراء في الشركة إن القلق من أن تطور النماذج قدرات لتعطيل المراقبين أو التهرب منهم تماما "مفهوم جدا"، مضيفا أن أوبن إيه.آي تحاول معالجة هذه المشكلات.

وتسعى "أوبن إيه.آي" جاهدة للحاق بمنافستها "أنثروبيك" بين العملاء من الشركات، حيث تستحوذ منافستها "أنثروبيك" على حصة سوقية قبل طرح أسهمها للاكتتاب العام المرتقب على نطاق واسع في وقت لاحق من هذا العام.

ويستهدف "أسترا" مجموعة واسعة من العملاء من الشركات، الذين قالت "أوبن إيه.آي" إنها تأمل في أن تجذبهم سرعته وتعدد استخداماته. وهو متاح اليوم لمجموعة محدودة من العملاء، وسيُطرح على نطاق أوسع خلال الأيام المقبلة.