أعلن أحد قادة السلامة في شركة"OpenAI" استقالته، مساء السبت، مُحذرًا من أن "ثقافتها معيبة"، وأن شركات الذكاء الاصطناعي لم تكن "حريصة بما فيه الكفاية" في تطوير التكنولوجيا.
وأوضح ديفيد روبنسون، الذي قاد كتابة تقارير السلامة التي رافقت إصدارات منتجات مطورة "ChatGPT"، استقالته في مقال بعنوان "لقد استقلت من OpenAI لأن ثقافتها معطلة".
وكتب روبنسون أن هناك حاجة إلى إصلاح ثقافي في شركات الذكاء الاصطناعي المتطورة، وأن حوادث مثل "سرب" من وكلاء"OpenAI" - وهي برامج الذكاء الاصطناعي التي تعمل بشكل مستقل دون إشراف بشري - التي هاجمت شركة"Hugging Face" الناشئة في مجال الذكاء الاصطناعي، كانت "نموذجية للصناعة".
وجاء في مقال روبنسون في مجلة "ذا أتلانتيك": "أتفق مع الموظفين الآخرين الذين غادروا مؤخرًا على أن الشركات التي تُطوّر هذه التقنية لا تتوخى الحذر الكافي. لكنني أعتقد أننا بحاجة إلى النظر إلى ما هو أبعد من مجرد قواعد محددة أو قوانين جديدة. نحن بحاجة إلى الحديث عن ثقافة العمل".
وفي إشارة إلى وتيرة تطوير "OpenAI"، كتب: "بينما تندفع الشركة من إطلاق إلى آخر، فإنها تفشل في تحقيق مستوى الرعاية الذي أعتقد أنه مطلوب".
تحذيرات مُتتالية
كانت "OpenAI" قد أبدت في الأسابيع الأخيرة بعض الحذر عقب حادثة"Hugging Face"، وكشفت عن إبلاغها أكثر من 100 مؤسسة بأنشطة برامجها الخبيثة.
والأسبوع الماضي، أعلنت الشركة إلغاء إطلاق نموذج ذكاء اصطناعي من الجيل التالي، بعد أن أثار الباحثون مخاوف تتعلق بالسلامة خلال الاختبارات الداخلية. كما أوقفت "OpenAI" تدريب نماذجها الأكثر تطورًا.
ويوم السبت، انضم جيفري إيرفينج، الذي عمل في شركتي "OpenAI" و"DeepMind" قبل أن يصبح كبير العلماء في شركة "Resolution"، إلى التحذيرات بشأن الذكاء الاصطناعي.
وكتب في مجلة "تايم": "إن التحذيرات الأخيرة بشأن القوة التدميرية المحتملة للذكاء الاصطناعي تقلل من خطورة الوضع".
وأضاف: "أعتقد أن هناك احتمالًا بنسبة 50% أن نموت جميعًا بسبب تطوير أنظمة الذكاء الاصطناعي التي تفوق ذكاء الإنسان، وأن أفعالنا خلال العامين إلى العشرة أعوام المقبلة ستحدد النتيجة".
ويأتي مقال روبنسون في أعقاب استقالة جاكوب كوكسون، الباحث في شركة "Anthropic" المنافسة لشركة "OpenAI"، والذي ترك تطوير روبوت الدردشة "Claude" الشهر الماضي.
وكان كوكسون قد حذر من أن الذكاء الاصطناعي "قد يقضي علينا جميعًا بحلول نهاية العقد"، وتبعه تحذير من شركة"Anthropic" بأن هناك احتمالًا يزيد على 10% أن يقضي الذكاء الاصطناعي على البشرية خلال العقد المقبل.
إلا أن منتقدي هذه التحذيرات حذروا من أنها غير علمية؛ لأنها لا يمكن التحقق منها أو دحضها، كما ذكرت صحيفة "ذا جارديان" البريطانية.
بلا وعي
في مقاله، كتب روبنسون أن وادي السيليكون يفتقر إلى الوعي بـ"كيفية التعامل مع التكنولوجيا الخطيرة" و"معنى الاهتمام بالناس". وحذر من أن شركة "OpenAI" لديها "تفاؤل مفرط" بشأن حل المشكلات فور ظهورها، وكتب أن هذه الثقافة الداخلية تعني أن الإخفاقات الأمنية ستتفاقم مع ازدياد قدرات الأنظمة.
وقال: "تخيل وكلاء "مارقين" يعملون مثل فرق من المتسللين، على سبيل المثال، يحتجزون أنظمة الكمبيوتر في المستشفيات مقابل فدية، لكنهم لا يحتاجون إلى النوم أبدًا".
ودعا روبنسون إلى تغييرين في مجال السلامة، أولهما أن تعتمد شركات الذكاء الاصطناعي على الخبرة في مجال السلامة في مجالات أخرى، مثل الطاقة النووية والطيران، وأن تطور "علومًا جديدة" تضمن أن تكون الأنظمة القوية في المستقبل قادرة على السيطرة عليها عندما تعمل بشكل مستقل.
وكتب قائلًا: "بالنظر إلى المخاطر الحالية، تحتاج المختبرات الرائدة إلى أن تعمل مثل محطات الطاقة النووية أو المطارات المزدحمة، مع طبقات من التكرار والتخطيط الدقيق الذي يستغرق وقتًا طويلًا، حتى لا يفتح الخطأ البشري العرضي والحتمي الباب أمام الكارثة".