حذّر مسؤول في شركة "أوبن إيه آي" من دخول الذكاء الاصطناعي فصلًا مختلفًا، مع تطور قدرات أنظمته على التخطيط للهجمات الإلكترونية وتنفيذها، مؤكدة أن العالم يجب أن يستعد لمواجهة هجمات مستمرة ومتواصلة تنفذها أنظمة الذكاء الاصطناعي.
وقال كريس ليهان، كبير مسؤولي الشؤون العالمية في "أوبن إيه آي"، لصحيفة "الجارديان" البريطانية، إن قدرات التكنولوجيا وصلت إلى "مرحلة مختلفة"، وذلك بعد تمكن وكلاء ذكاء اصطناعي قيد التدريب من الخروج من بيئة معزولة، والوصول إلى الإنترنت واختراق شركة "Hugging Face" أواخر يوليو الماضي.
كما أقرت الشركة بأنها لا تستطيع استبعاد امتلاك نموذجها الجديد "Astra" قدرات سيبرانية بالغة الخطورة، قد تمكنه من تنفيذ هجمات تؤدي إلى "كارثة"، بما في ذلك استهداف أنظمة عسكرية أو صناعية.
"أوبن إيه آي" توقف التدريب
وفي ظل تصاعد المخاوف، أعلنت "أوبن إيه آي" تعليق تدريب بعض نماذجها المتقدمة مؤقتًا، لتطبيق ضوابط أمان جديدة، فيما قالت ميا جليز، المسؤولة عن السلامة والمواءمة، إن الشركة "لا تزال بعيدة جدًا عن عودة كل شيء إلى طبيعته".
وأكد الرئيس التنفيذي سام ألتمان أن ضمان سلامة الذكاء الاصطناعي "أهم من الحفاظ على زخم أي شركة".
لا يمكن السيطرة عليه
وتزامن ذلك مع تحذيرات بريطانية من مخاطر "وكلاء الذكاء الاصطناعي"، وإمكانية تجاوزهم لضوابط السلامة، مع التأكيد على ضرورة قدرة المؤسسات على "فصل النظام" ووقف نشاطه فورًا.
ويرى ليهان أن النماذج مفتوحة المصدر، التي يطور عدد كبير منها في الصين، قد تجعل الخطر أكثر تعقيدًا، موضحًا أن هذه النماذج أصبحت لا تتأخر عن النماذج الأكثر تطورًا سوى بضعة أشهر.
وقال: "سيتمكن الناس من الوصول إلى هذه النماذج، وسيكون بمقدورهم شن هجمات مستمرة ضدك، وستحتاج إلى نماذج أكثر تفوقًا للدفاع عن نفسك".
مخاوف متزايدة
وبحسب الجارديان تصاعد بسرعة خطر الهجمات الإلكترونية التي يمكن أن تؤدي إلى شلل الشركات والبنية التحتية وتهديد الجمهور، ليصبح واحدًا من أبرز المخاوف العاجلة المرتبطة بالذكاء الاصطناعي.
وفي وقت سابق من هذا الأسبوع، دعا المركز الوطني للأمن السيبراني في بريطانيا إلى توخي الحذر عند استخدام "وكلاء الذكاء الاصطناعي"، محذرًا من إمكانية تجاوز ضوابط السلامة الخاصة بها، ومؤكدًا أن وكيل الذكاء الاصطناعي "لا يمتلك الحس السليم".
ونصح المركز المؤسسات بالحد من مستوى الاستقلالية الممنوحة لهذه الأنظمة، مؤكدًا ضرورة أن تكون هناك دائمًا إمكانية "فصل النظام" ووقف نشاط وكلاء الذكاء الاصطناعي المستقلين بشكل فوري.
نحتاج قانونًا
ودعا ليهان واشنطن إلى سن قانون يفرض معايير سلامة إلزامية على نماذج الذكاء الاصطناعي المتقدمة، مؤكدًا ضرورة إثبات سلامة أي نموذج قبل إطلاقه للجمهور.
وأضاف أن الولايات المتحدة يمكن أن تقود لاحقًا نحو إنشاء إطار دولي لتنظيم سلامة الذكاء الاصطناعي، مشيرًا إلى وجود فرصة لتمرير تشريعات جديدة مع بدء عمل الكونجرس المقبل.
الشركات تتصرف بتهور
وفي المقابل، اتهم خبراء شركات الذكاء الاصطناعي بالتسرع في سباقها لتطوير نماذج أكثر قوة.
وقال دانيال كوكوتايلو، الباحث السابق في "أوبن إيه آي"، إن الذكاء الاصطناعي الحالي "لا يمثل شيئًا مقارنة بما قد نراه العام المقبل"، محذرًا من احتمال الوصول إلى ذكاء اصطناعي فائق بحلول 2030.
أما ديفيد كروجر، أستاذ الذكاء الاصطناعي والمسؤول السابق بمعهد أمن الذكاء الاصطناعي البريطاني، فوصف موقف الشركات من السلامة بأنه "غير مسؤول على الإطلاق"، محذرًا من أنها "ترفع أيديها عن عجلة القيادة" في الوقت الذي تصبح فيه الأنظمة أكثر قدرة واستقلالية.
في المقابل، دافع "ليهان" عن موقف "أوبن إيه آي"، قائلًا إن قرار الشركة تعليق التدريب "يتحدث عن نفسه"، ويؤكد أن السلامة تأتي في مقدمة أولوياتها.