كشفت صحيفة الجارديان البريطانية أن منصة إكس ما زالت تتيح نشر مقاطع وصورًا مُولَّدة عبر أداة Grok، تتضمن تعرية لنساء وتحويل صورهن إلى محتوى جنسي، رغم إعلان الشركة عن تشديد القيود على إساءة استخدام الأداة.
والخميس الماضي، زعمت الحكومة البريطانية تحقيق انتصار بعد إعلان شركة إكس التابعة لإيلون ماسك عن منع استخدام أداة Grok في تعديل صور لأشخاص حقيقيين وتعريتهم أو إظهارهم بملابس فاضحة، بما في ذلك مشتركي الباقات المدفوعة.
لكن الجارديان تمكنت من إنشاء مقاطع فيديو قصيرة باستخدام Grok لأشخاص يرتدون البكيني، انطلاقًا من صور لنساء حقيقيات يرتدين ملابس كاملة، ونشرتها على المنصة دون أي رقابة.
ويطرح هذا التطور تساؤلات حول فعالية القيود التي أعلنتها إكس سابقًا، عندما قالت إنها أدخلت تدابير تقنية لمنع Grok من السماح بتعديل صور أشخاص حقيقيين وتعريتهم، وأكدت عدم التسامح مع الاستغلال الجنسي للأطفال، والعُري غير الرضائي، والمحتوى الجنسي غير المرغوب.
ولم توضح إكس وقتها إن كانت القيود تشمل التطبيق/النسخة المستقلة من Grok، قبل أن يُظهر اختبار الجارديان أن هذه النسخة ما زالت تستجيب لطلبات نزع الملابس ثم تسمح بإعادة نشر الصور المعدلة على إكس.
يتصل هذا الكشف بمسار أزمة Grok التي تواصلت خلال الأسابيع الماضية. إذ قيدت إكس توليد الصور وتحريرها عبر Grok داخل المنصة ليقتصر على مشتركي الباقات المدفوعة، بعد موجة غضب بسبب استخدام الأداة في إنتاج صور جنسية مزيفة وغير رضائية استهدفت نساءً، وترافقت مع تهديدات بالتحقيقات والغرامات وإجراءات قد تصل إلى حجب الخدمة في بعض الدول.
وفي تطور موازٍ للأزمة نفسها، انتقل مكتب المدعي العام لولاية كاليفورنيا من مرحلة التحقيق إلى إجراء مباشر، وأرسل يوم الجمعة خطابًا إلى شركة xAI يطالبها باتخاذ خطوات فورية لوقف إنتاج وتوزيع الصور الحميمة غير الرضائية ومحتوى الاعتداء الجنسي على الأطفال.
وقال المدعي العام روب بونتا إن إنتاج هذا النوع من المواد غير قانوني، وإن كاليفورنيا لا تتسامح مع محتوى الاعتداء الجنسي على الأطفال، مضيفًا أن مكتبه يتوقع من xAI تقديم ما يثبت الخطوات التي تتخذها خلال خمسة أيام.
ويرى مكتب المدعي أن xAI يسهّل الإنتاج واسع النطاق لصور عارية غير رضائية تستخدم في مضايقة النساء والفتيات على الإنترنت، وربط جانبًا من الجدل بميزة spicy mode التي صممتها الشركة لإتاحة محتوى صريح.
وكانت الأزمة تجاوزت صور البيكيني لتشمل محتوى أكثر قسوة، مع حديث تقارير ومنظمات عن مواد إباحية وعنف جنسي، إلى جانب صور عنف وقتل تولدها الأداة، بالتوازي مع اتهامات بانحيازات ثقافية ودينية في أنماط الاستهداف.
وفتحت هذه الأزمة جبهات ضغط تنظيمي في أوروبا وبريطانيا وأستراليا والهند وماليزيا وفرنسا، إضافة إلى ضغط داخل الولايات المتحدة عبر دعوات لآبل وجوجل لإزالة تطبيقَي إكس وGrok من متجريهما بسبب محتوى مسيء واستغلال الأطفال وفق ما ورد في رسائل أعضاء بمجلس الشيوخ.
