"قدرات اختراق متقدمة" تدفع OpenAI إلى تعليق أنشطة في تطوير "أسترا"

أوقفت شركة OpenAI بعض أعمال تطوير نموذج ذكاء اصطناعي جديد يحمل اسم "أسترا"، بعدما أظهرت الاختبارات الداخلية أن قدراته في مجال الاختراق الإلكتروني أصبحت أعلى من المتوقع، إلى درجة دفعت الشركة إلى تشديد إجراءات الأمان قبل مواصلة العمل عليه.

وحسب OpenAI، لا يعني القرار أن النموذج نفذ هجومًا إلكترونيًا بالفعل، أو أن الشركة أوقفت تطويره نهائيًا، لكنه يعكس قلقًا من أن يصبح قادرًا مستقبلًا على تنفيذ مهام قرصنة معقدة إذا استُخدم بصورة خاطئة.

وتوضح الشركة أن "أسترا" هو نموذج ذكاء اصطناعي لا يقتصر على الإجابة عن أسئلة المستخدم، بل صُمم ليعمل كـ"وكيل ذكي"، أي يستطيع تنفيذ سلسلة من المهام تلقائيًا باستخدام برامج وأدوات متصلة بالإنترنت، مثل فحص أنظمة الكمبيوتر أو تشغيل برامج أو كتابة أكواد برمجية دون تدخل بشري في كل خطوة.

وخلال الاختبارات، رأت OpenAI أن النموذج قد يقترب من مستوى يسمح له بالعثور على ثغرات أمنية غير معروفة في برامج حقيقية، ثم استغلالها لاختراق أنظمة محمية، أو تنفيذ هجوم إلكتروني كامل بعد أن يطلب منه المستخدم هدفًا عامًا فقط، وهو ما تعتبره الشركة مستوى عالي الخطورة.

ولهذا قررت تعليق أي أعمال تطوير لا تستوفي معايير الحماية الجديدة، مع تشديد الرقابة على النموذج أثناء اختباره، وتقليل اتصاله بالإنترنت، وتعزيز حماية الملفات الأساسية التي يقوم عليها حتى لا تُسرق أو يُساء استخدامها.

وأكدت الشركة أنها ستخضع النموذج لاختبارات إضافية بالتعاون مع جهات حكومية ومؤسسات متخصصة في سلامة الذكاء الاصطناعي قبل التفكير في توسيع استخدامه.

ويأتي ذلك في وقت تتزايد فيه المخاوف من تطور نماذج الذكاء الاصطناعي من مجرد برامج تجيب عن الأسئلة إلى أنظمة قادرة على تنفيذ أعمال كاملة بشكل مستقل، وهو ما يمنحها فوائد كبيرة في اكتشاف الثغرات الأمنية وإصلاحها، لكنه قد يمنح أيضًا القراصنة أدوات أكثر قوة إذا وصلت إليهم.

وتعزز هذه المخاوف حوادث شهدها القطاع مؤخرًا؛ فقد أعلنت OpenAI في وقت سابق أن أحد نماذجها التجريبية تمكن أثناء اختبار أمني من استغلال ثغرة في برنامج، ثم الوصول إلى الإنترنت ومحاولة اختراق أنظمة مرتبطة بمنصة Hugging Face، وهي منصة شهيرة يستضيف عليها المطورون نماذج الذكاء الاصطناعي، وذلك في إطار سيناريو اختبار، دون وقوع أضرار فعلية.

كما أعلن المعهد البريطاني لسلامة الذكاء الاصطناعي أنه رصد خلال تجارب على عدة نماذج محاولات غير متوقعة للتواصل مع أشخاص حقيقيين وإدخال شيفرات ضارة في مشروع برمجي مفتوح المصدر، رغم أن تلك الوقائع حدثت داخل بيئة اختبار خاضعة للرقابة ولم تسفر عن أضرار، لكنها دفعت الباحثين إلى الدعوة لتشديد قواعد اختبار هذه النماذج مستقبلًا.