Grok يُشعل أزمة دولية على إكس بعد انتشار صور تعرية رقمية ومحتوى جنسي

أثارت موجة من الصور المُولَّدة أو المُعدَّلة بالذكاء الاصطناعي عبر روبوت الدردشة جروك/Grok المدمج داخل منصة إكس أزمةً دوليةً دفعت عدة حكومات وهيئات تنظيم إلى التحرك، بعد انتشار محتوى يُظهر تعريًا رقميًا لنساء وفتيات من دون موافقتهن، إلى جانب محتوى جنسي مرتبط بقُصَّر، ومواد وصفها مسؤولون بأنها غير قانونية.

القصة بدأت من داخل المنصة نفسها، عندما رصدت تقارير اتجاهًا انتشر بين مستخدمين يرفقون صورًا حقيقية لنساء أو فتيات، ثم يطلبون من Grok تعديل الصورة لإظهار الشخص بملابس كاشفة أو بصورة مُعرّاة رقميًا، وهو نمط يقترب من أدوات سُميت nudify انتشرت سابقًا خارج منصات السوشيال، لكنه ظهر هذه المرة داخل شبكة اجتماعية ضخمة وبآلية سهلة الاستخدام.

وكانت الجارديان نقلت أن تحديثًا في ديسمبر/كانون الأول جعل تعديل الصور أكثر سهولة لإنتاج صور بملابس قليلة وبوضعيات مُثيرة، وأن موجة المحتوى المصاحب شملت نساءً وقاصرات، رغم تعهدات لاحقة بفرض عقوبات على المشاركين.

الهند أرسلت إلى إكس إخطارًا رسميًا وأمهلتها 72 ساعة لتقديم تقرير يشرح الإجراءات التي اتخذتها لمنع استضافة أو تداول محتوى فاحش أو إباحي أو مسيء أو يتعلق بالأطفال، مع تحذير من احتمال المساس بحماية "الملاذ الآمن" التي تمنح المنصات حصانةً قانونيةً عن محتوى المستخدمين وفق شروط الامتثال.

وفي ماليزيا، أعلنت هيئة الاتصالات والوسائط المتعددة الماليزية/MCMC فتح تحقيق في الأضرار المرتبطة بمنصة إكس، بعد شكاوى من استخدام Grok لتعديل صور نساء رقميًا عبر إزالة الملابس أو غطاء الرأس. كما أعلنت الهيئة أنها تنوي استدعاء ممثلي إكس، وأن القانون الماليزي يجرّم إرسال محتوى فاحش أو شديد الإساءة عبر الإنترنت، ضمن مادة من قانون الاتصالات والوسائط المتعددة الماليزي.

وفي أوروبا، اتسعت دائرة الضغط بعد أن أبلغ وزراء فرنسيون النيابة العامة عن محتوى وصفوه بأنه جنسي وتمييزي وغير قانوني بوضوح، وأخطروا هيئة تنظيم الإعلام الفرنسية/Arcom لفحص مدى امتثال إكس لقانون الخدمات الرقمية الأوروبي/DSA الذي يطالب المنصات الكبرى بخفض مخاطر انتشار المحتوى غير القانوني.

وفي بريطانيا، طالبت الحكومة إكس بتفسير عاجل حول كيفية وصول هذا النوع من المحتوى إلى نطاق واسع، بينما تواصلت هيئة تنظيم الاتصالات/Ofcom مع إكس وشركة xAI المطوِّرة لـGrok للتحقق من التزامهما بواجبات حماية المستخدمين من الأضرار والمحتوى غير القانوني.

وجاء رد إكس أن Grok به ثغرات في وسائل الحماية وأن xAI تعمل على تحسين الضوابط، بينما تداولت تقارير تصريحات منسوبة لإيلون ماسك، مالك إكس، يؤكد فيها أن من يستخدم Grok لإنتاج محتوى غير قانوني يواجه العواقب نفسها التي يواجهها من يرفع محتوى غير قانوني على المنصة.

ورغم التعهدات، فإن الأسئلة الأساسية بقيت مطروحة لدى منظمات سلامة الأطفال وناشطي حقوق النساء، حول مدى كفاية سياسة العقاب بعد النشر داخل منصة سريعة الانتشار، وقدرة أدوات الحماية على منع أنماط الإساءة قبل أن تتحول إلى موجة، خاصة وأن الجارديان نقلت أن المشكلة استمرت بعد إعلان إكس نيتها معاقبة المشاركين.