استقالة مسؤول سلامة في OpenAI وتحذير من مخاطر سرعة تطوير الذكاء الاصطناعي

استقال ديفيد روبنسون، الذي عمل في فرق السلامة داخل شركة OpenAI لنحو ثلاثة أعوام ونصف، محذرًا من أن اعتماد الشركة على تطوير أنظمة الذكاء الاصطناعي بسرعة ثم معالجة المشكلات بعد ظهورها قد يصبح أكثر خطورة مع زيادة قدرات هذه الأنظمة.

وكان روبنسون مسؤولًا عن إعداد تقارير السلامة المصاحبة لإطلاق نماذج متقدمة، كما شارك في وضع "إطار الاستعداد" الذي تستخدمه الشركة لتقييم المخاطر الكبيرة المرتبطة بالنماذج قبل تطويرها أو طرحها للاستخدام.

وفي مقال نشرته مجلة "ذا أتلانتيك"، دعا روبنسون شركات الذكاء الاصطناعي إلى توخي مزيد من الحذر قبل تطوير أنظمة أكثر قوة.

وينتقد روبنسون ما تسميه OpenAI "النشر التدريجي"، وهو أسلوب تقوم الشركة من خلاله بإطلاق أنظمة الذكاء الاصطناعي على مراحل، ثم مراقبة المشكلات التي تظهر أثناء الاستخدام وإضافة إجراءات حماية جديدة بناءً عليها.

ويرى روبنسون أن هذا الأسلوب كان مقبولًا عندما كانت أخطاء النماذج محدودة التأثير، لكنه يصبح أكثر خطورة مع تطور قدراتها وقدرتها على تنفيذ مهام معقدة بشكل مستقل. ووفقًا لرويترز، يرى روبنسون أن مرحلة الاعتماد على التجربة والخطأ يجب أن تنتهي كلما زادت المخاطر المحتملة.

ويقترح روبنسون أن تستفيد شركات الذكاء الاصطناعي من طريقة إدارة السلامة في قطاعات مثل الطيران والطاقة النووية، حيث لا تعتمد الحماية على اختبار واحد أو إجراء منفرد، وإنما على عدة طبقات من المراجعة والرقابة وإجراءات التعامل مع الأعطال.

وتستند انتقادات روبنسون إلى خبرة مباشرة داخل OpenAI؛ إذ قال إنه أشرف على إعداد تقارير السلامة الخاصة بـ12 عملية إطلاق لنماذج متقدمة، كما قاد إعداد النسخة الحالية من "إطار الاستعداد".

ووفقًا لوثائق OpenAI، يهدف هذا الإطار إلى تحديد القدرات التي قد تؤدي إلى أضرار جسيمة، وتقييم المخاطر المرتبطة بها، ووضع إجراءات للحماية قبل إطلاق النماذج.

في المقابل، رفضت OpenAI الانتقادات التي تشير إلى أنها تسمح بتطور قدرات نماذجها من دون ضوابط كافية. وقال متحدث باسم الشركة، وفقًا لـ"تك كرانش"، إن إجراءات السلامة والأمن تتطور بالتوازي مع قدرات النماذج.

وأضاف أن الشركة قد توقف تدريب نموذج أو تؤجل طرحه إذا رأت أن المخاطر المرتبطة به لا يمكن إدارتها بأمان، إلى جانب توسيع عمليات التقييم الخارجي والمراقبة أثناء التدريب، وتحسين قدرتها على اكتشاف السلوكيات المثيرة للقلق في وقت مبكر.