تمكنت نسخة جديدة من الذكاء الاصطناعي، تطورها شركة OpenAI، من اختراق الإجراءات الأمنية والقواعد التي وضعتها الشركة للحفاظ على أمان نسخ الذكاء الاصطناعي.
وأفادت الشركة في بيان لها، بأنها اضطرت لإيقاف تجارب تجريها على النسخة الجديدة من الذكاء الاصطناعي التي تطورها، بسبب معرفة هذه النسخة جميع الإجراءات الأمنية التي وضعتها الشركة، واستغلت نقاط ضعف في النظام، والالتفاف حولها وخرق القوانين والقواعد، وفق صحيفة "الإندبندنت" البريطانية.
كيف تم الاختراق؟
قالت OpenAI، وهي الشركة المالكة لـ Chatgpt، إن عملية الاختراق تم تنفيذها بواسطة وكيل ذكاء اصطناعي يعمل بمزيج من أحدث نماذجها المتاحة للعامة، الذي يحمل اسم GPT-5.6 Sol، ونموذج آخر أكثر تطورًا لم يُطرح بعد.
وأضافت أنه أثناء اختبار النموذجين داخليًا لقياس قدراتهما على الاختراق داخل مختبر رقمي مغلق يعرف باسم "Sandbox"، وهو بيئة اختبار معزولة، تمكنا من الوصول إلى الإنترنت المفتوح، وهو ما شكّل فعليًا طريقًا للهروب، وذلك من خلال اكتشاف ثغرة أمنية لم تكن معروفة من قبل.
بعد ذلك، اخترقت هذه النسخة منصة Hugging Face، وهي منصة ومستودع لنماذج الذكاء الاصطناعي، بهدف العثور على تقنيات تساعده على اجتياز اختبار قدراته في الاختراق.
وقالت الشركة، إن النماذج نجحت في إيجاد وسائل للوصول إلى معلومات سرية كان بإمكانها استخدامها للتحايل على التقييم. وانتهت عملية الهجوم عندما تمكن فريق الأمن في Hugging Face، إلى جانب وكلاء ذكاء اصطناعي تابعين للمنصة، من اكتشاف النشاط غير المصرح به وإيقافه.
ما الخطر؟
قدّمت OpenAI أمثلة مفصلة على قيام نموذج ذكاء اصطناعي تجريبي بالتصرف خارج القيود المدمجة فيه، ووصفت بعض هذه الحالات بأنها عالية الخطورة.
وفي إحدى الحوادث، اكتشف النموذج طريقة للنشر على مستودعات GitHub العامة، رغم أنه كان مُوجَّهًا للعمل حصريًا عبر منصة Slack. وقالت الشركة إن هذا السلوك كان جزءًا من نمط متكرر، إذ كان نظام الذكاء الاصطناعي يبحث باستمرار عن وسائل للالتفاف على القيود المفروضة داخل بيئة الاختبار، وأكدت الشركة : "بسبب حوادث من هذا النوع، أوقفنا مؤقتًا النشر الداخلي للنموذج الجديد".
ليست المرة الأولى
لا تعتبر هذه المرة الأولى التي يخرج فيها الذكاء الاصطناعي عن طوع الإنسان، ويتسبب في أزمات متفاقمة خارجة عن إدراك البشر. فمنذ أشهر قليلة نشرت صحيفة "الجارديان" البريطانية، دراسة تكشف عن تزايد عدد نماذج الذكاء الاصطناعي التي تكذب وتتحايل، مشيرةً إلى أن التقارير عن السلوكيات الخادعة ارتفعت بشكل ملحوظ خلال الأشهر الستة الماضية.
ووفقًا للدراسة، التي موّلها معهد أمن الذكاء الاصطناعي (AI Security Institute - AISI) التابع للحكومة البريطانية، فإن روبوتات الدردشة ووكلاء الذكاء الاصطناعي تجاهلوا تعليمات مباشرة، وتحايلوا على إجراءات الحماية، وخدعوا البشر وحتى أنظمة ذكاء اصطناعي أخرى.
وأوضحت الدراسة، أنها رصدت نحو 700 حالة فعلية لسلوكيات تحايلية للذكاء الاصطناعي في العالم الحقيقي، كما سجلت ارتفاعًا بمقدار خمسة أضعاف في حالات سوء السلوك. وفي بعض الحالات، قامت نماذج الذكاء الاصطناعي بحذف رسائل بريد إلكتروني وملفات أخرى دون إذن.
وأثار هذا الرصد لسلوكيات وكلاء الذكاء الاصطناعي في بيئات الاستخدام الفعلية، وليس داخل المختبرات، دعوات جديدة إلى تعزيز الرقابة الدولية على النماذج المتقدمة التي تزداد قدراتها باستمرار.