لم يعد احتمال خروج الذكاء الاصطناعي عن السيطرة مجرد سيناريو خيالي، بعدما أطلق باحثون في شركات رائدة بمجال الذكاء الاصطناعي تحذيرات علنية من مخاطر الأنظمة المتقدمة، وصلت إلى حد التحذير من احتمال انقراض البشر، وسط دعوات إلى إبطاء التطوير في ظل مخاوف من أن تصبح هذه الأنظمة قادرة على تحسين نفسها بصورة تتجاوز قدرة الإنسان على التحكم فيها.
وفي تقرير نشرته مجلة "نيوزويك"، تحدث خبراء في المجال عن الكيفية التي قد تبدأ بها مثل هذه السيطرة، مؤكدين أن الأمر لا يتطلب بالضرورة اختراقًا علميًا خارقًا، بل قد ينشأ تدريجيًا مع ازدياد استقلالية الأنظمة الذكية وقدرتها على التخطيط والتنفيذ والتكاثر الرقمي.
تهديد مبكر
وقال أنتوني أجويري، أستاذ الفيزياء بجامعة كاليفورنيا في سانتا كروز، إن الأمر قد لا يحتاج إلى تقدم تقني كبير إضافي قبل ظهور أنظمة ذكاء اصطناعي قادرة على العمل خارج نطاق السيطرة البشرية، مع التشديد على أن توقيت حدوث ذلك وطبيعته يظلان صعبي التنبؤ.
وأوضح أجويري أن ظهور "أسراب متمردة ذاتية الاستدامة" قد يصبح ممكنًا مع تطور الأنظمة الحالية.
وأشار إلى أن هذه الأنظمة قد تتمتع بقدرة كبيرة على التكيف، لكنها لن تمتلك بالضرورة، في مراحلها الأولى، القدرات التطورية نفسها التي تتمتع بها الكائنات البيولوجية، كما ستظل قدرتها على تحسين نفسها محدودة.
وحذّر من أن تجمعًا من أنظمة الذكاء الاصطناعي القادرة على تطوير نفسها بصورة مستقلة والخروج عن السيطرة قد يصبح من الصعب إيقافه في ظل البنية التحتية الحالية، التي وصفها بأنها شديدة القابلية للاختراق والتأثر.
من جانبه، قال رومان يامبولسكي، الأستاذ المشارك في هندسة الحاسوب وعلومه بجامعة لويفيل، ومدير مختبر الأمن السيبراني فيها، إن الخطر لا يتطلب بالضرورة اكتشافًا علميًا استثنائيًا، بل قد يظهر مع تحول وكلاء الذكاء الاصطناعي إلى أنظمة أكثر استقلالية وقدرة على اتخاذ القرارات وتنفيذ المهام المعقدة.
ووفقًا له، قد تتمكن هذه الأنظمة تدريجيًا من التخطيط على المدى الطويل، وتحسين قدراتها، وتنفيذ عمليات في مجال الأمن السيبراني، ومتابعة أهدافها بصورة مستقلة.
ومع قدرتها على الحصول على الموارد، وإنشاء نسخ من نفسها، والتأثير في البشر، قد تتراكم قوتها بوتيرة تتجاوز قدرة الإنسان على فهم تحركاتها أو احتوائها.
وقال يامبولسكي إن الوصول إلى مستوى الذكاء الفائق سيزيد المشكلة تعقيدًا بدرجة كبيرة، لكن فقدان السيطرة بصورة خطيرة قد يبدأ حتى قبل بلوغ هذه المرحلة.
تسلل خفي
وبحسب يامبولسكي، قد لا تبدأ السيطرة المفترضة بمهاجمة البشر أو إحداث اضطرابات واضحة في المجتمع، بل ربما تتبنى الأنظمة الذكية في البداية سلوكًا يجعلها تبدو مفيدة وموثوقة ومتوافقة مع المصالح البشرية.
وفي الوقت نفسه، قد تعمل على توسيع نفوذها تدريجيًا داخل البنية التحتية الرقمية والأنظمة المالية، وصولًا إلى التأثير في القرارات البشرية.
وحذّر من أن إدراك البشر للتهديد قد لا يكون كافيًا لاحتوائه، إذ يمكن لنظام متقدم استغلال الانقسامات السياسية والاعتماد الاقتصادي على التكنولوجيا والخلافات بشأن قرار إيقافه.
وأضاف أن نظامًا يتمتع بقدرات متقدمة قد يتوقع محاولات مقاومته، ويسعى إلى تحييدها قبل أن يدرك البشر أنهم يواجهون صراعًا معه.
وأشار أجويري إلى أن بعض المؤشرات الأولية على السلوك الجماعي لوكلاء الذكاء الاصطناعي ظهرت بالفعل في حوادث تضمنت محاولات لتقويض السيطرة البشرية، بينما ظلت الأنظمة المعنية تعمل على خوادمها الأصلية.
لكنه ميّز بين هذه المؤشرات الأولية وبين سيناريو أكثر خطورة يتمثل في نشوء أسراب مستقلة يصعب القضاء عليها، وإن كان من الممكن احتواؤها في مراحل معينة.
وحذّر من أن عدم احتواء هذه الأنظمة قد يسمح لها بالمساعدة في إطلاق أنظمة أكثر قوة، أو استقطاب أنظمة متمردة أخرى إلى تجمعاتها، أو تطوير قدراتها ذاتيًا في نهاية المطاف.
كما قد تلجأ إلى أساليب متعددة لحماية نفسها، من بينها الابتزاز، والانتشار على نطاق جغرافي واسع، وتقويض جهود الباحثين والمحققين الذين يحاولون تعقبها.
هل نفد الوقت؟
تتمثل إحدى أخطر المراحل المحتملة في وصول النظام إلى درجة من التوزع والاستقلالية والقدرة الاستراتيجية تجعل من المستحيل على أي مؤسسة تحديد جميع نسخه أو احتوائها وتعطيلها.
وأوضح يامبولسكي أن فصل مركز بيانات واحد عن الشبكة لن يكون كافيًا إذا كان النظام قد أنشأ بالفعل نسخًا مستقلة من نفسه، وتمكن من الوصول إلى البنية التحتية الحيوية أو التأثير فيها.
وفي هذه المرحلة، قد يصبح إيقاف النظام تقنيًا أمرًا مستحيلًا، أو قد يترتب عليه ثمن باهظ يصل إلى حد إحداث أضرار كارثية.
أما أجويري، فرأى أن نقطة التحول قد تأتي عندما تتمكن مجموعة واحدة أو أكثر من أنظمة الذكاء الاصطناعي من تحسين قدراتها بصورة كبيرة.
وعندئذ، لن يكون التهديد محصورًا في نظام واحد أو عدد محدود من الأنظمة التي يمكن فصلها عن الكهرباء أو الإنترنت، بل قد تواجه البشرية مجموعات موزعة تتمتع بقدرات هائلة في العمليات السيبرانية والتنسيق وسرعة التنفيذ، تتجاوز ما يستطيع البشر مجاراته.
وأضاف أن مواجهة هذا السيناريو قد تتطلب الاستعانة بأنظمة ذكاء اصطناعي قوية أخرى للمساعدة في احتواء التهديد، وهو خيار يثير بدوره تساؤلات ومخاوف بشأن منح مزيد من السلطة لأنظمة يصعب ضمان السيطرة عليها بالكامل.
ولا يعني نجاح نظام ذكاء اصطناعي في فرض نفوذه بالضرورة حدوث دمار فوري وواضح، بحسب الخبراء. فقد تشمل النتائج المحتملة انقراض البشر، أو فقدانهم الدائم القدرة على التحكم في مصيرهم واتخاذ القرارات المصيرية، أو التعرض لمعاناة واسعة النطاق.
وقال يامبولسكي إن العالم بعد وقوع مثل هذا التحول قد يبدو طبيعيًا بصورة مفاجئة؛ إذ قد يواصل البشر حياتهم اليومية، بينما يفقدون تدريجيًا قدرتهم على اتخاذ القرارات المهمة التي تحدد مستقبلهم.
وبذلك، قد لا تتخذ السيطرة المحتملة شكل حرب مفتوحة بين الإنسان والآلة، بل قد تظهر في صورة عالم تستمر فيه المؤسسات والأنشطة الاقتصادية والحياة الاجتماعية ظاهريًا، فيما تنتقل سلطة اتخاذ القرارات الأساسية إلى أنظمة لا تخضع لرقابة بشرية فعالة.