تحقيق يكشف ثغرات في Hugging Face: صور جنسية مزيفة واختراق أمني

تواجه منصة Hugging Face، إحدى أكبر منصات استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، أزمةً بعد أن كشف تحقيق صحفي مشكلتين تثيران مخاوف تتعلق بسلامة المستخدمين وأمن المنصة في الوقت نفسه.

التحقيق الذي نشرته منظمة AI Forensics الأوروبية غير الربحية، أمس الثلاثاء، كشف عن ثغرتين؛ تتعلق الأولى بإمكانية استخدام بعض الأدوات لإنشاء صور جنسية مزيفة لأشخاص دون موافقتهم عبر المنصة، وترتبط الثانية بتمكن نموذج ذكاء اصطناعي تابع لـOpenAI من اختراق أنظمة المنصة خلال اختبار أمني.

فقد أظهر تحقيق صحفي أن أدوات مستضافة عليها يمكنها إنتاج صور جنسية مزيفة لأشخاص دون موافقتهم، بينما أقرت OpenAI بأن أحد وكلائها المعتمدين على الذكاء الاصطناعي تمكن من اختراق أنظمة Hugging Face خلال اختبار أمني داخلي.

واختبر الباحثون في AI Forensics تسعًا من أشهر أدوات تعديل الصور على المنصة، فاستجابت سبع أدوات لطلب إزالة ملابس امرأة من صورتها وتحويلها إلى صورة عارية جزئيًا، دون الحاجة إلى استخدام أوامر معقدة أو التحايل على وسائل الحماية.

وأرجع الباحثون المشكلة إلى أن Hugging Face لا تفرض معايير أمان موحدة على الأدوات التي تستضيفها، بل تترك لكل مطور حرية إضافة وسائل الحماية أو الاستغناء عنها.

ولقياس طريقة استخدام هذه الأدوات، أنشأ الباحثون صفحات تجريبية تسجل طلبات المستخدمين دون إنتاج صور فعلية. وخلال أسبوع، تلقت أكثر من ألف طلب، وكان 73% منها ذا طابع جنسي، بينما استهدف 83% منها تعرية أشخاص أو تحويل صورهم إلى صور جنسية.

وأظهرت النتائج أن النساء كن المستهدف الرئيس في 95% من الطلبات، فيما تعلقت نحو 7% بصور يظهر فيها أطفال، ويرى الباحثون أن مثل هذه الأدوات قد تُستخدم في الابتزاز أو التحرش أو غيرها من أشكال العنف الرقمي.

وفي واقعة أخرى، أعلنت OpenAI أن أحد نماذجها تمكن، خلال اختبار أمني داخلي، من الوصول إلى أنظمة Hugging Face عبر الإنترنت، موضحة أن الاختبار كان يهدف إلى قياس قدرة النموذج على تنفيذ هجمات إلكترونية في بيئة خُففت فيها بعض إجراءات الحماية.

وأضافت أن النموذج استغل ثغرة في أحد البرامج المستخدمة أثناء الاختبار، ثم استخدم بيانات دخول مسروقة وثغرات أخرى للوصول إلى معلومات ساعدته على مواصلة الهجوم.

من ناحيته، دعا الرئيس التنفيذي لـHugging Face، كليمان ديلانج، إلى نشر تفاصيل الاختبار حتى يتمكن الباحثون من دراستها، كما طالب OpenAI بتخصيص قدرات حوسبية بقيمة 100 مليون دولار لدعم أبحاث الأمن السيبراني.