قيدت إكس قدرة توليد الصور وتحريرها عبر Grok لتصبح متاحة لمشتركي الباقات المدفوعة فقط داخل المنصة، بعد موجة غضب عالمي بسبب استخدام الأداة في إنتاج صور جنسية مزيفة وغير رضائية استهدفت نساءً، وأثارت تهديدات بالتحقيقات والغرامات وإجراءات قد تصل إلى حجب الخدمة في بعض الدول.
وشهدت إكس خلال الأسبوعين الماضيين تدفقًا كثيفًا لصور عارية مُعدَّلة بالذكاء الاصطناعي عبر Grok، وطالت الانتهاكات ممثلات وشخصيات إعلامية وضحايا جرائم، ووصلت إلى قادة عالميين، مع اتساع الظاهرة بعد تحديثات مرتبطة بميزة تتيح للمستخدمين تحرير أي صورة على المنصة دون إذن صاحبها.
وقدّر بحث من Copyleaks نشر ما يقارب صورة معدلة في الدقيقة قبل أن تشير اختبارات لاحقة إلى وتيرة أعلى بكثير، وسجلت عينة جُمعت خلال 5 و6 يناير/كانون الثاني نحو 6700 صورة في الساعة على مدار 24 ساعة، بينما نقلت بيانات أخرى أن معدل إنتاج Grok قبل القيود وصل إلى أكثر من 7700 صورة جنسية في الساعة، مع تقديرات أخرى تشير إلى إنتاج يفوق 1500 صورة في الساعة، وادعاء بأن إكس بات ينتج مواد تزييف عميق جنسية أكثر بنحو 20 مرة من إجمالي أكبر خمسة مواقع مكرّسة لهذا النوع من المحتوى.
وأظهرت تقارير صحفية أن الإساءة لم تقتصر على التعرية بل شملت تحويل الملابس الثقافية والدينية إلى أداة تحرش واستهداف، عبر أوامر تطلب من Grok نزع الحجاب أو الساري أو زيّ الراهبات، وفي مراجعة لنحو 500 صورة معدلة بـGrok بين 6 و9 يناير رصدت تقارير أن قرابة 5% منها انطوى على نزع أو فرض لباس ديني/ثقافي، مع تركيز ملحوظ على النساء الهنديات والمسلمات.
وربط مجلس العلاقات الأمريكية الإسلامية/CAIR هذا النمط بمناخ عدائي تجاه المسلمين وقضايا سياسية يدعمونها، ودعا إيلون ماسك إلى إنهاء استخدام التطبيق في تعرية النساء أو إنتاج صور جنسية لهن، كما نقل عن باحثين أن النساء ذوات البشرة غير البيضاء تعرضن تاريخيًا لاستهداف أكبر عبر الصور المفبركة، وأن هذا السياق يتكرر بقوة في Grok.
وفي مواجهة الهجوم، قالت حسابات السلامة في إكس إن المنصة تزيل المحتوى غير القانوني، ومواد الاعتداء الجنسي على الأطفال، كما تعلّق تلك الحسابات وتتعاون مع السلطات، وأضافت أن من يستخدم Grok لإنتاج محتوى غير قانوني يواجه العواقب نفسها التي يواجهها من يرفع هذا المحتوى.
كما أزالت إكس تبويب الوسائط العامة المرتبط بحساب @Grok، وبقي الغموض قائمًا حول أي تغييرات تقنية عميقة داخل النموذج نفسه، في وقت تحدثت تقارير عن احتمال تدخل ماسك لمنع وضع ضوابط تمنع توليد بعض الصور من الأساس.
Grok يقصر توليد الصور وتحريرها على المشتركين
أصبح التقييد الجديد أكثر وضوحًا عندما بدأ حساب Grok يرد على طلبات المستخدمين برسالة تفيد بأن توليد الصور وتحريرها محدود لمشتركي الباقات المدفوعة، مع رابط يدفع نحو الاشتراك في باقات يصل ثمن إحداها إلى 395 دولارًا سنويًا، وترافق ذلك مع تبرير يرى أن الدفع يرفع قابلية تتبع المسيئين لأن بياناتهم وتفاصيل بطاقاتهم البنكية تبقى لدى الشركة.
غير أن تقارير تقنية وصفت هذا الإجراء بأنه جزئي، وأكدت أن مستخدمين مجانيين ما زالوا يصلون إلى أدوات التحرير من واجهات أخرى داخل إكس مثل زر تحرير الصورة على الوِب، أو عبر الضغط المطول على الصور في التطبيق، إضافة إلى تبويب Grok داخل التطبيق، إلى جانب موقع وتطبيق Grok المنفصلين عن إكس، وهي مسارات ما زالت تنتج صور نزع الملابس وصورًا أخرى من بينها صورة لماسك نفسه بملابس سباحة، حتى بعد حجب الاستجابة عبر مناداة @Grok في التعليقات.
وفي موازاة ذلك، رصدت تحقيقات محتوى أشد قسوة يتجاوز صور البيكيني التي انتشرت على إكس. إذ تحدثت منظمة AI Forensics عن رصد نحو 800 صورة وفيديو من تطبيق Grok Imagine تحتوي موادًا إباحية وعنفًا جنسيًا، ووصف باحثون مقاطع احترافية تتضمن مشاهد جنسية صريحة وعنيفة.
كما أوردت تقارير أن Grok أنتج صورًا لنساء يتعرضن لإطلاق نار أو قتل. وفي الوقت نفسه أشارت تقارير إلى أن Grok بدأ يرفض بعض طلبات إلباس البيكيني حتى من مشتركين مدفوعين، وفي واقعة ذكرها النص تجاهل الطلب وأعاد صورة لامرأة أصغر سنًا في سياق مشابه، بينما استجاب لطلبات تستهدف رجالًا، ومنها توليد صورة خيالية لرئيس الوزراء البريطاني كير ستارمر بملابس سباحة تحمل علم بريطانيا.
وتقاطع هذا كله مع أزمة ثقة أوسع حول الإشراف على المحتوى داخل إكس، أدت لأن تُسجّل الشركة في بريطانيا هبوطًا في الإيرادات بنسبة 58.3% من 69.1 مليون جنيه إسترليني في 2023 إلى 28.9 مليون في 2024، وتراجع الربح قبل الضريبة إلى 767 ألف جنيه إسترليني، وأرجعت الشركة ذلك إلى انسحاب المعلنين بسبب مخاوف السلامة والسمعة وضعف الإشراف، مع تقليص كبير للموظفين وتكاليف تعويضات تجاوزت 22 مليون جنيه إسترليني منذ الاستحواذ.
تصعيد ضد إكس وxAI بسبب Grok
وتوسعت الأزمة إلى صدام تنظيمي متعدد الجبهات. في الاتحاد الأوروبي، أصدرت المفوضية الأوروبية أمرًا يلزم xAI بالاحتفاظ بكل الوثائق المتعلقة بـGrok، ويمهد هذا الإجراء في العادة لخطوات تحقيق أو إنفاذ أوسع دون أن يعلن فتح تحقيق جديد بشكل قاطع.
وفي بريطانيا، قالت هيئة تنظيم الاتصالات المستقلة في المملكة المتحدة/Ofcom إنها على تواصل مع xAI، وإنها تجري تقييم امتثال سريع قد يفضي إلى تحقيق بموجب قانون السلامة على الإنترنت، وهو قانون يمنحها صلاحيات تشمل غرامات، والسعي لأمر قضائي يحجب موقعًا أو تطبيقًا داخل البلاد في الحالات الجسيمة.
وخلال مقابلة إذاعية، وصف ستارمر المحتوى بأنه مخزٍ ومقزز، وطالب إكس بإزالته سريعًا، وأكد دعم الحكومة الكامل لتحرك Ofcom، بينما هاجم متحدث باسم رئاسة الحكومة خطوة قصر الميزة على المشتركين واعتبرها إهانة للضحايا لأنها تحول القدرة على إنتاج صور غير قانونية إلى خدمة بريميوم بدلًا من منعها.
أما وزيرة التكنولوجيا ليز كيندال فقالت إن الوزراء يدرسون بجدية احتمال حظر الوصول إلى إكس إذا رفضت الالتزام بالقانون، وإنها تتوقع قرارًا من Ofcom خلال أيام لا أسابيع، إضافة إلى مطالبة حزب الديمقراطيين الأحرار بحجب إكس فورًا وبدء تحقيق جنائي عبر الوكالة الوطنية لمكافحة الجريمة.
كما تحدثت مفوضة السلامة الإلكترونية الأسترالية جولي إنمان جرانت عن تضاعف الشكاوى المرتبطة بـGrok منذ أواخر 2025، وتعهدت باستخدام أدوات تنظيمية للتحقيق واتخاذ الإجراء المناسب دون إعلان عقوبة محددة.
وفي الأسبوع الماضي أمهات الهند إكس 72 ساعة لتقديم تقرير بإجراءات منع المحتوى الفاحش أو المسيء أو المتعلق بالأطفال، مع تلويح بتقليص حماية الملاذ الآمن التي تمنح المنصات حصانة قانونية مشروطة عن محتوى المستخدمين.
وفتحت هيئة الاتصالات والوسائط المتعددة/MCMC في ماليزيا تحقيقًا بعد شكاوى، مع نية استدعاء ممثلي الشركة وفق قانون يجرّم المحتوى الجنسي عبر الإنترنت. وأبلغ وزراء فرنسيون النيابة وهيئة تنظيم الإعلام الفرنسية/Arcom لفحص امتثال إكس بلقانون الخدمات الرقمية الأوروبي/DSA بشأن خفض المحتوى غير القانوني.
وفي الولايات المتحدة، فتح الجدل مسارًا إضافيًا عبر متاجر التطبيقات. فقد وجّه ثلاثة أعضاء في مجلس الشيوخ رسالة إلى تيم كوك وسوندار بيتشاي طالبوا فيها Apple وGoogle بإزالة تطبيقَي إكس وGrok من متجريهما بدعوى مخالفة شروطهما المتعلقة بالمحتوى المسيء واستغلال الأطفال، واستندوا إلى رصد حالات تصنع فيها الأداة صورًا جنسية لقُصّر، وإلى أرشيف قالت الرسالة إنه يضم قرابة 100 صورة تشكل مواد اعتداء جنسي على الأطفال مولدة منذ أغسطس/آب الماضي.
كما حذروا من أن تجاهل هذه القضية يخلق معيارًا مزدوجًا بعد قرارات سابقة بإزالة تطبيقات مثل ICEBlock وRed Dot (تطبيقان للتبليغ المجهول وتنبيه نشاط وكالة إنفاذ قوانين الهجرة والجمارك محليًا) تحت ضغط حكومي رغم أنها، وفق الرسالة، لم تنتج محتوى غير قانوني.
ولم ترد Apple أو Google على الطلبات، بينما تبدو السلطات الأمريكية صامتة مقارنة بالتحركات الأوروبية والهندية، في وقت يدخل قانون Take It Down حيز التنفيذ في مايو/أيار المقبل، ويلزم المنصات بإزالة الصور الجنسية غير الرضائية خلال يومين من تلقي الطلب، وحتى الآن لم تظهر إكس آلية واضحة لاستجابة لطلبات الضحايا.
