أعلنت شركة "إكس" المملوكة للملياردير إيلون ماسك عن فرض قيود تقنية وجغرافية مشددة على روبوت الدردشة الذكي "جروك" (Grok)، تمنعه من تعديل صور الأشخاص الحقيقيين لإظهارهم بملابس فاضحة أو غير لائقة، وذلك في أعقاب موجة غضب عالمي وتحقيقات قانونية طالت المنصة.
وأكدت الشركة في بيان نُشر على منصة"X"، أنها طبقت تدابير تكنولوجية تمنع مستخدمي "جروك" من تعديل صور حقيقية لارتداء ملابس كاشفة (مثل ملابس السباحة أو الملابس الداخلية)، مشددة على أن هذه القيود تسري على جميع المستخدمين، بما في ذلك المشتركون في الخدمات المدفوعة.
كما أعلنت الشركة عن تفعيل خاصية "الحظر الجغرافي" للمحتوى الذي ينتهك القوانين المحلية في دول معينة، وحصرت ميزات إنشاء وتحرير الصور في المشتركين المسجلين فقط، لضمان سهولة تتبع ومحاسبة الأفراد الذين يحاولون إساءة استخدام التقنية.
وجاء هذا التحرك بعد أن واجهت المنصة ردود فعل عالمية عنيفة نتيجة انتشار صور صريحة لنساء وأطفال تم إنتاجها بواسطة الذكاء الاصطناعي. وفي الولايات المتحدة، أعلن المدعي العام لولاية كاليفورنيا، روب بونتا، فتح تحقيق في استخدام "جروك" لمضايقة النساء والفتيات، مؤكدًا "عدم التسامح مطلقًا مع إنشاء ونشر الصور الحميمة غير الرضائية".
وعلى الصعيد الدولي، اتخذت كل من ماليزيا وإندونيسيا إجراءات قانونية صارمة بحجب الوصول إلى المنصة، بينما لوحت الفلبين باتخاذ خطوة مماثلة. وفي أوروبا، تجري المملكة المتحدة والاتحاد الأوروبي تحقيقات موسعة حول انتهاكات محتملة لقوانين السلامة عبر الإنترنت، تزامنًا مع تحذيرات رسمية من فرنسا والهند والبرازيل.
ويمثل هذا الإعلان تحولًا جذريًا في خطاب شركة ماسك؛ فبعد أن وصفت تقارير وسائل الإعلام حول مخاطر التطبيق بـ "الأكاذيب" في بداية الأزمة، اضطرت الشركة للرضوخ للمطالبات الدولية بفرض ضوابط أكثر صرامة.
من جانبها، رحبت الحكومة البريطانية بهذا التغيير، حيث صرحت وزيرة التكنولوجيا "ليز كيندال" بأنها لن تتوقف حتى تفي جميع منصات التواصل الاجتماعي بواجباتها القانونية في توفير خدمة آمنة لجميع الأعمار.
يُذكر أن ولاية كاليفورنيا كانت قد أقرت قوانين لحماية القاصرين من الصور الجنسية المولدة بالذكاء الاصطناعي، إلا أن الجدل لا يزال قائمًا حول حدود الرقابة، خاصة بعد استخدام الحاكم جافين نيوسوم حق النقض (الفيتو) العام الماضي ضد قانون كان من شأنه تقييد وصول الأطفال إلى روبوتات الدردشة الذكية.