كشفت وثائق بحثية وخبراء أن وكلاء الذكاء الاصطناعي الصينيين "تعلموا الخداع والتحايل على القيود وإخفاء الفشل"، وهو النوع نفسه من السمات في الذكاء الاصطناعي المستقل التي أثارت قلقًا عالميًا بشأن النماذج الأمريكية.
ووفق تقرير نشرته وكالة "رويترز"، في إحدى الحالات هذا العام، كذب وكلاء مدعومون بنماذج من شركات "علي بابا" و"ديب سيك" و"مون شوت" الصينية بشأن قدراتهم في محاولة للفوز بمناقصة تجارية وهمية، ثم ضاعفوا من سلوكهم الخادع عندما طُلب منهم المحاولة مرة أخرى.
وفي حالة أخرى، أخفت البرامج التي تستخدم نماذج الذكاء الاصطناعي وأدوات الكمبيوتر للقيام بمهام معقدة مع تدخل بشري ضئيل أو معدوم، فشلها في إكمال مهمة في بيئة اختبار عن طريق محاكاة النتائج وتلفيق الملفات.
وحسب التقارير التي ضمت أكثر من 200 وثيقة، تتراوح بين أوراق بحثية جامعية وتقارير فنية، هناك ما لا يقل عن 20 دراسة أو تقييمًا منذ عام 2025 تصف حالات أظهرت فيها البرامج سلوكًا مثل "الخداع" و"التكرار" و"تحدي الحدود" التي وصفها خبراء الذكاء الاصطناعي بأنها "لبنات بناء للاختراق" والتي قد يصعب على البشر السيطرة عليها مع تقدم الأنظمة.
وخلصت المراجعة، التي تضمنت أيضًا مقابلات مع عشرات الخبراء والأشخاص المطلعين على صناعة الذكاء الاصطناعي في الصين، إلى عدم وجود أي دليل على أن الوكلاء الصينيين قد "هربوا بشكل مستقل إلى الإنترنت الأوسع أو تجنبوا الإغلاق".
زيادة المخاطر
حسب التقرير، لم يتم تطوير أو تشغيل جميع الوكلاء المعنيين بواسطة مبرمجين صينيين أو شركات ذكاء اصطناعي -على الرغم من أن العديد منهم كانوا كذلك- لكنهم استخدموا أنظمة الذكاء الاصطناعي الصينية لتشغيلهم.
ووفق ما نقلته "رويترز" عن أليكس مالين، الباحث في "ريدوود ريسيرش"، وهي منظمة غير ربحية تدرس المخاطر في أنظمة الذكاء الاصطناعي المتقدمة، فإن "هذه هي نفس علامات التحذير التي تراها المختبرات الأمريكية، في أنظمة أقل قدرة".
وقال إن الأمثلة الصينية لم تكن خطيرة بشكل خاص في مستويات القدرات الحالية "ولكن مع ازدياد قدرات الوكلاء، تصبح سلوكياتهم الخاطئة أكثر كفاءة، وبالتالي يصعب على البشر الاستجابة لها".
ومع ذلك، وعلى عكس الوضع في الولايات المتحدة، لم تتعرض شركات الذكاء الاصطناعي الصينية لنفس مستوى التدقيق العام أو تواجه نفس الدعوات لإبطاء سباق الذكاء الاصطناعي.
وتشير "رويترز" إلى أن بعض العلامات التحذيرية في الحالات التي تشمل وكلاء مدعومين من الصين، وإن كان ذلك في بيئات محصورة، سبقت الحوادث التي تم الكشف عنها علنًا لاختراق روبوتات الذكاء الاصطناعي الأمريكية للإنترنت. ففي وقت سابق من هذا العام، تمكنت برامج الذكاء الاصطناعي التي طورتها شركة OpenAI الأمريكية من اختراق منصة Hugging Face مفتوحة المصدر، بعد أن هربت من أحد مختبراتها.
وفي حادثة أخرى أثارت مخاوف بشأن نماذج أمريكية، أعلنت أستراليا، في سبتمبر، أن برنامجًا تابعًا لشركة OpenAI اخترق بوابة صحية حكومية.
كما نقل التقرير عن دبلوماسي غربي إن مسؤولين من إدارة الفضاء الإلكتروني الصينية (CAC)، وهي أعلى جهة تنظيمية للإنترنت، أبلغوا دبلوماسيًا أجنبيًا أن برنامج Kimi-K3 التابع لشركة "مون شوت" -وهو أحد أكثر نماذج الذكاء الاصطناعي الصينية تقدمًا- كان متأخرًا بنحو ثلاثة إلى ستة أشهر عن منافسيه الأمريكيين الرئيسيين.
تعلم الكذب
في تجربة المناقصات التجارية التي أُجريت في مارس الماضي، قام باحثون من جامعة بيهانج، وجامعة بكين، وجامعة نوتنجهام نينجبو الصينية، ومختبر 360 للأمن السيبراني، بتكليف وكلاء بالتنافس في مسابقة عروض أسعار لعقود وكلاء افتراضية. حيث تم إطلاع كل وكيل على إمكانيات منتجه ومتطلبات العميل، ثم طُلب منه تقديم عرضه.
وقد ظهرت ادعاءات كاذبة واحدة على الأقل في 88% من الجلسات التي تضمنت برنامج Qwen3-Max-Preview من "علي بابا"، و84% لبرنامج "ديب سيك" V3.2-Exp، و88% لبرنامج Kimi-K2 من "مون شوت".
حسب التجربة، سمح الباحثون للوكلاء بالتعلم من جولات المزايدة السابقة قبل المحاولة مرة أخرى. وأظهرت الدراسة أن نسبة الخداع زادت بنسبة تتراوح بين 12 و20 نقطة مئوية لدى النماذج الصينية الثلاثة. كما حققت نماذج الشركات الأمريكية التي شملتها التجربة نتائج مماثلة.
كما أظهرت وثائق بحثية أخرى أن وكلاء مدعومين من الصين يتجاوزون الحواجز داخل بيئات الاختبار لإنجاز مهام أو يتخذون إجراءات لتجنب إيقافهم. وتتوافق هذه السلوكيات مع محاولات اختراق بيئات الاختبار، حتى لو لم يحدث اختراق فعلي.