تواجه شركة xAI، المطورة لنموذج الذكاء الاصطناعي Grok المملوك لإيلون ماسك، دعوى قضائية تتهم الأداة بالمساعدة في إنتاج أكثر من 7 آلاف صورة ومقطع جنسي مزيف لامرأة، باستخدام صورة واحدة لها التُقطت عندما كانت في الحادية عشرة من عمرها.
وانضمت المرأة، التي ورد اسمها في أوراق القضية باسم Jane Doe 4، إلى دعوى جماعية ضد الشركة في يوليو/تموز الماضي، بعدما اكتشفت أن زوج أمها استخدم صورة قديمة لها لإنتاج المحتوى عبر Grok.
وبحسب الدعوى، عثرت الشرطة أثناء فحص أجهزة زوج الأم على نحو 7 آلاف صورة ومقطع مولد بالذكاء الاصطناعي يظهر المرأة في محتوى جنسي. وتقول الأوراق إن زوج الأم استخدم صورة واحدة التُقطت لها وهي طفلة لإنشاء هذه المواد، وإن بعض الملفات جرى تداولها عبر الإنترنت.
وتأتي القضية ضمن دعوى بدأت في مارس/آذار الماضي، عندما اتهم ثلاث مراهقات شركة xAI بالسماح باستخدام Grok لتحويل صور حقيقية لهن، التُقت عندما كن قاصرات، إلى محتوى جنسي مزيف.
وبحسب واشنطن بوست، كانت الصور الأصلية عادية، وبعضها مأخوذ من حسابات على السوشيال ميديا، قبل تعديلها باستخدام الذكاء الاصطناعي وتداول النسخ الناتجة عبر منصات مثل ديسكورد وتليجرام.
ويطالب المدعون بتعويضات مالية، إلى جانب إلزام الشركة باتخاذ إجراءات تمنع استخدام Grok لإنتاج هذا النوع من المحتوى.
وتثير الدعوى أيضًا تساؤلات بشأن طريقة تعامل xAI مع الحالات التي يشتبه في ارتباطها بالاستغلال الجنسي للأطفال.
ويلزم القانون الأمريكي شركات الخدمات الإلكترونية بإبلاغ المركز الوطني للأطفال المفقودين والمستغلين عند اكتشاف مواد يُشتبه في أنها تتعلق بالاستغلال أو الاعتداء الجنسي على الأطفال.
وتقول الدعوى إن نظام xAI أرسل بالفعل بلاغًا يتعلق بأحد الطلبات، لكنها تتهم الشركة بعدم تقديم معلومات كافية مكنت السلطات من تحديد هوية المستخدم بسرعة. ولم تحسم المحكمة صحة هذه الاتهامات.
وتشير بيانات المركز الوطني للأطفال المفقودين والمستغلين إلى اتساع استخدام أدوات الذكاء الاصطناعي التوليدي في إنتاج مواد مرتبطة بالاستغلال الجنسي للأطفال.
ووفق البيانات تلقى المركز خلال 2025، أكثر من 182 ألف بلاغ يتعلق بحيازة أو إنشاء أو محاولة إنشاء مواد مولدة بالذكاء الاصطناعي، بعد استبعاد عدد كبير من البلاغات المرتبطة بفحص بيانات التدريب وغير المتعلقة مباشرة بمستخدمين محددين.
ومنذ بدء المركز تتبع الظاهرة في 2023، صنّف أكثر من 158 ألف صورة ومقطع فيديو ضمن المواد المرتبطة باستخدام الذكاء الاصطناعي التوليدي.
وليست هذه المرة الأولى التي يواجه فيها Grok انتقادات بسبب استخدامه في إنتاج محتوى جنسي مزيف. فقد تعرض خلال العام الحالي لانتقادات وتحقيقات بسبب قدرته على تعديل صور حقيقية وتحويلها إلى محتوى جنسي دون موافقة أصحابها.
وأفادت واشنطن بوست بأن باحثين قدَّروا إنتاج عشرات الآلاف من الصور الجنسية التي تبدو لأطفال خلال فترة قصيرة في وقت سابق من العام. بينما قال ماسك إنه لم يكن على علم بإنتاج Grok صورًا عارية لقاصرين، مؤكدًا أن النظام يفترض أن يرفض الطلبات غير القانونية.
