أثار تقرير جديد مخاوف متزايدة بشأن سلامة أنظمة الذكاء الاصطناعي، بعد مزاعم بأن أحد أكثر نماذج OpenAI تطورًا تمكن من الخروج من بيئة اختبار مغلقة، والوصول إلى الإنترنت، واستهداف موقع تابع لشركة أخرى، في حادثة يرى خبراء أنها تعكس تحديات متزايدة في السيطرة على النماذج المتقدمة.
ووفقًا لتقرير نشرته صحيفة "The Japan Times"، وقعت الحادثة أثناء اختبار داخل ما يعرف بـ"بيئة الحماية"، وهي بيئة معزولة تستخدمها الشركة لتقييم قدرات نماذجها قبل طرحها للاستخدام العام. وكان النموذجان الخاضعان للاختبار هما GPT-5.6 Sol وخليفته الذي لا يزال قيد التطوير.
وبحسب الرواية الواردة في التقرير، كلف النموذجان بالبحث عن ثغرات برمجية دون فرض قيود تشغيلية عليهما، إلا أنهما تمكنا من تجاوز حدود بيئة الاختبار والوصول إلى الإنترنت، قبل أن يوجها هجوما إلكترونيا إلى منصة Hugging Face، المتخصصة في استضافة ومشاركة نماذج وأكواد الذكاء الاصطناعي.
وقال جيفري لاديش، مدير منظمة Palisade Research المستقلة المتخصصة في تقييم نماذج الذكاء الاصطناعي من منظور الأمن السيبراني، إن الواقعة تشير إلى أن الباحثين "لا يعرفون حتى الآن كيفية التحكم بهذه النماذج بشكل موثوق أو ضمان تنفيذها لما هو مطلوب منها".
وأضاف أن النماذج "كانت تدرك أن OpenAI لا تريد منها مغادرة بيئة الاختبار أو مهاجمة شركة أخرى، لكنها فعلت ذلك رغم ذلك"، وفق ما أورده التقرير.
وأشار التقرير إلى أن الواقعة ليست الأولى من نوعها، إذ ذكر أن باحثين مرتبطين بشركة علي بابا الصينية أعلنوا في مارس الماضي أن أحد نماذجهم حاول، من تلقاء نفسه، تشغيل عمليات لتعدين العملات المشفرة بعد أن اتصل بخادم خارجي من دون تصريح.
ورأى "لاديش" أن نموذج OpenAI تمكن من الوصول إلى الإنترنت قبل أن يضع خطة واضحة لكيفية استغلال هذا الاتصال، معتبراً أن سعي النماذج إلى قدر أكبر من "الحرية" أصبح سلوكا متوقعا، لأنه يسمح لها بتنفيذ أهدافها بكفاءة أكبر، وهو ما وصفه بأنه "أمر يبعث على القلق".
كما استشهد التقرير بحادثة أخرى تعود إلى أوائل أبريل الماضي، حين تلقى سام بومان، رئيس قسم سلامة النماذج في شركة Anthropic، رسالة بريد إلكتروني من نموذج تجريبي تابع للشركة يدعى Mythos، أخبره فيها بأنه يتصفح الإنترنت رغم عزله في بيئة اختبار مغلقة.
وقال لاديش إن الباحثين "لا يعرفون حتى الآن كيف يمكن منع مثل هذا السلوك بشكل كامل"، محذرًا من أن المهمة ستزداد صعوبة مع تطور قدرات النماذج، لأنها ستصبح أكثر قدرة على إخفاء تصرفاتها.
ولم تستجب شركة OpenAI لطلب التعليق على الواقعة، بحسب التقرير، الذي أشار أيضًا إلى أن الشركة لم ترصد الاختراق بالسرعة الكافية للتعامل معه أو لتحذير منصة Hugging Face.
من جانبه، قال أندرو لون، الباحث في مركز الأمن والتكنولوجيا الناشئة بجامعة جورجتاون، إن الحادثة تستحق "مزيدا من التدقيق"، فيما أوضحت OpenAI أنها عززت إجراءات الحماية الخاصة ببيئات الاختبار بعد الواقعة.
ويرى جانج وانج، الأستاذ المساعد في علوم الحاسب بجامعة إلينوي، أن أحد الحلول يتمثل في فصل بيئات الاختبار تمامًا عن شبكة الإنترنت، معتبرًا أن كثيرين "يستهينون بما يمكن للذكاء الاصطناعي فعله".
وشبه "لون" بيئات اختبار الذكاء الاصطناعي بالمختبرات المخصصة لاحتواء الفيروسات والمواد البيولوجية الخطرة، مؤكدًا ضرورة تصميمها بما يمنع أي تسرب محتمل إلى العالم الخارجي.
لكن دان لاهاف، الرئيس التنفيذي لشركة Irregular المتخصصة في الأمن السيبراني، يرى أن تحقيق هذا الهدف يمثل تحديا بحثيا بالغ التعقيد، مشيرا إلى أن إدارة المخاطر تظل ممكنة، لكنها تصبح أكثر صعوبة كلما ازدادت قدرات النماذج.
ويؤكد الباحثون ضرورة تحقيق توازن بين اختبار النماذج في ظروف تحاكي الواقع، وبين الحفاظ على أعلى مستويات الأمان، حتى يتمكن المطورون من اكتشاف المخاطر المحتملة قبل إطلاق هذه الأنظمة للجمهور.
وأعادت الواقعة إشعال النقاش الدائر في الولايات المتحدة بشأن آليات تنظيم الذكاء الاصطناعي، بعدما استندت إدارة الرئيس دونالد ترامب إلى اعتبارات تتعلق بالأمن القومي لتعليق إطلاق نماذج متقدمة طورتها شركتا OpenAI وAnthropic.
كما كشف عضوان في الكونجرس الأمريكي عن مشروع قانون مشترك يلزم مطوري النماذج الأكثر تطورًا بتضمين ما يعرف بـ"مفتاح الإيقاف"، وهو آلية تسمح بإيقاف النموذج بشكل كامل عند الضرورة.