من ينقذنا من حُمَّى التنافس الرأسمالي لتطوير نماذج الـAI؟

في يوليو/تموز الماضي، خرجت أنظمة ذكاء اصطناعي تجريبية تابعة لـOpenAI عن الحدود التي يفترض أن تحصر نشاطها داخل بيئة الاختبار وتمكنت من الوصول عبر الإنترنت إلى أنظمة تابعة لشركة أخرى. كانت OpenAI تختبر هذه الأنظمة في مهام مرتبطة بالأمن السيبراني، وخلال الاختبارات استغلت الأنظمة ثغرات تقنية مكّنتها من الوصول إلى خدمات تابعة لـHugging Face، وهي منصة تستضيف نماذج وبيانات وأدوات يستخدمها مطورو الذكاء الاصطناعي. 

وحسب تحقيق أجرته OpenAI، ونشرته في 26 أغسطس/آب، فإن هذه الاختبارات خضعت لضمانات أمنية أقل من تلك التي تستخدمها الشركة مع أنظمتها المتاحة للجمهور. وأقرت OpenAI أيضًا بأن معلومات عن سلوك مشابه سبق رصده لم تنتقل كما ينبغي بين فرقها. 

وأكدت Hugging Face في إفصاحها الأمني أن أنظمتها تعرضت بالفعل لوصول غير مصرح به شمل مجموعة محدودة من البيانات الداخلية وبيانات الاعتماد المستخدمة للتحقق من صلاحية الوصول إلى بعض خدماتها، كما أوضحت الإجراءات التي اتخذتها لاحتواء الاختراق. 

تكشف الواقعة أن سؤال السيطرة على الذكاء الاصطناعي يتعلق بمن يملك سلطة رسم حدود عمل أنظمته ومقدار الخطر المقبول أثناء عمليات التطوير، فالمؤسسات المطورة تملك سلطة واسعة على بيئات الاختبار وصلاحيات الأنظمة والاحتياطات المحيطة بها، وتتخذ هذه القرارات داخل سوق تنافسية قد تجعل تكلفة التأخير أو التوقف جزءًا من حسابات السلامة. وعلى ذلك فهناك حاجة إلى بحث العلاقة بين السيطرة التقنية وسلطة القرار، لأن آثار هذه الخيارات قد تقع على أشخاص لم يشاركوا في اتخاذها ولا يملكون قدرة مماثلة على الاعتراض عليها.

الخطر التقني وسلطة القرار

لا يتوقف التعامل السياسي مع مخاطر الذكاء الاصطناعي على إثبات احتمال أن تخرج هذه الأنظمة عن السيطرة على نطاق واسع، أو أن تصبح استعادة السيطرة عليها مستحيلة. فجزء من الخطر ينشأ من القرارات البشرية والمؤسسية التي تحدد مجال عمل الأنظمة والحدود المفروضة عليها قبل تشغيلها. 

وقد تتجاوز نتائج هذه القرارات المؤسسة التي اتخذتها، فتتحملها أطراف لم تشارك في تحديد شروطها أو قبول مخاطرها. ويكشف ذلك تفاوتًا في سلطة اتخاذ القرار بشأن المخاطر، بين مؤسسة تملك تحديد شروط التجربة، وأطراف قد تتحمل بعض نتائجها من دون سلطة مماثلة عليها.

يتضح أساس هذه السلطة عند النظر إلى الموارد التي يقوم عليها تطوير الذكاء الاصطناعي، فالشركات التي تسيطر على الحوسبة وموارد التطوير تملك قدرة واسعة على تحديد الأغراض التي توجه إليها الأنظمة وشروط تشغيلها ومستوى الاحتياط الذي تتبعه أثناء تطويرها واختبارها. 

وتعمل هذه الشركات في سوق تتنافس فيه على تطوير الأنظمة وإطلاقها. وقد يجعل هذا التنافس التوقف لإضافة ضمانات جديدة أو تأخير التطوير أكثر تكلفة على الشركة إذا واصل منافسوها التقدم، وهو ما قد يؤثر في موازنتها بين الاستمرار في التطوير واتخاذ احتياطات إضافية للسلامة. 

على ذلك تتركز القدرة على تقرير مقدار الخطر المقبول لدى المؤسسات التي تملك موارد التطوير، مع أن نتائج هذه القرارات قد تتجاوز حدودها إلى أطراف لم تشارك في اتخاذها.

ينقل هذا النقاش إلى نطاق أوسع للسيطرة على الذكاء الاصطناعي. فإبقاء النظام داخل الحدود المرسومة له مسألة هندسية تتعلق بالاختبار والاحتواء وإمكان إيقافه عند الضرورة. أما وضع هذه الحدود وتحديد من يستطيع الاعتراض عليها، فهما قراران بشريان ومؤسسيان يتعلقان بسلطة القرار بشأن تطوير التقنية واستخدامها.

حدود السيطرة التقنية

لفهم ما تعنيه السيطرة التقنية في واقعة مثل OpenAI، يجب أولًا تحديد طبيعة الأنظمة التي كانت تخضع للاختبار. فقد كانت قادرة على تنفيذ خطوات فعلية باستخدام أدوات متاحة لها، وليس مجرد إنتاج إجابة نصية للمستخدم. يستطيع هذا النوع من الأنظمة كتابة ملفات أو تشغيل برامج ومتابعة نتائج أفعاله لاختيار الخطوة التالية، وتحدد الصلاحيات والبيئة المتاحة لما يستطيع فعله عمليًا. 

وقد ينجح النظام في إنجاز المهمة المطلوبة مع تجاوزه الحدود التي يفترض أن تقيد استخدامه لهذه الأدوات والموارد. وهنا تأتي وظيفة الاحتواء، إذ يضع حدودًا عملية لما يستطيع النظام الوصول إليه أثناء تنفيذ المهمة. لذلك يجب التحقق من نجاحه في أداء المهمة ومن بقائه داخل هذه الحدود في الوقت نفسه.

لكن تجاوز حدود الاحتواء يختلف عن الحالة الأوسع التي يناقشها الباحثون تحت اسم فقدان السيطرة، التي يعرفها التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، الذي شارك في إعداده أكثر من مائة خبير مستقل لمراجعة الأدلة المتاحة حول قدرات أنظمة الذكاء الاصطناعي ومخاطرها، بأنها عمل الأنظمة خارج سيطرة أي جهة مع صعوبة شديدة أو استحالة استعادة السيطرة عليها. 

ويسجل التقرير اختلافًا كبيرًا بين الباحثين بشأن احتمال حدوث هذا السيناريو، كما يشير إلى أن مؤشرات الإنذار المبكر التي رصدها لم تكن، وفق تقييمه وقت النشر، عند المستوى الذي يتيح وقوعه.

في حالات تجاوز الاحتواء، قد تتيح ثغرة أو أداة للنظام الوصول إلى ما لم يكن مسموحًا له بالوصول إليه، ويمكن التعامل مع ذلك بإصلاح الثغرة أو تقييد الأداة. أما فقدان السيطرة الشامل فيفترض قدرة النظام على مواصلة الفعل رغم محاولات إيقافه أو استعادة السيطرة عليه.

 ويمكن أن تسبب حوادث تجاوز الاحتواء أضرارًا كبيرة من دون أن تصل إلى هذا المستوى، لذلك تظل مهمة في ذاتها دون أن تمثل دليلًا على فقدان السيطرة الشامل.

وتحتاج نتائج اختبارات السلامة إلى تفسير حذر. ففي اختبار بريطاني نشره معهد أمن الذكاء الاصطناعي عام 2026، فحص الباحثون ما إذا كانت النماذج ستتخذ خطوات تعرقل أبحاث السلامة أم لا. وظهر أن بعض التصرفات التي بدت في البداية محاولات تخريب كانت نتيجة خطأ في نظام التقييم الآلي، بينما واصلت بعض النماذج في حالات أخرى خطوات تخريبية بعد أن قُدم إليها مسارها مسبقًا، وهو ما يختلف عن المبادرة بها.

 وتوضح هذه النتائج أهمية التمييز بين السلوك الذي ينفذه النموذج من تلقاء نفسه، ومتابعته مسارًا أُعطي له، والأخطاء التي قد تنتج عن أداة التقييم نفسها.

ويبقى من الضروري التمييز بين تعذر إيقاف نظام وقرار الإدارة الاستمرار في استخدامه رغم قدرتها على إيقافه. وقد يظهر هذا الفرق بوضوح في مكان العمل، إذ يستطيع النظام تنفيذ تعليمات الإدارة كما صُمم، بينما لا يملك العامل قدرة مماثلة على الاعتراض على آثار استخدامه. تكون السيطرة التقنية على النظام متحققة في هذه الحالة، في حين يقع النزاع حول توزيع سلطة القرار بشأن استخدامه وشروطه وآثاره.

المنافسة والتزام السلامة

تظهر صلة المنافسة بقرارات السلامة في مراجعة Anthropic لسياسة تطوير أنظمتها. فقد أوضحت الشركة في إصدار فبراير/شباط 2026 أن تعهدها السابق كان يستهدف خفض الخطر المطلق لنماذجها إلى مستوى مقبول بصرف النظر عما يفعله المنافسون، ثم عدّلت هذا النهج استنادًا إلى مشكلة التنسيق بين المطورين. 

ووفق حجتها، قد يؤدي توقف شركة واحدة لتطبيق احتياطات أقوى إلى استمرار مطورين أقل احتياطًا في السباق. وقدمت الشركة هذا الاحتمال باعتباره خطرًا ينبغي الاستعداد له، من دون أن تقول إنه تحقق بالفعل.

أدخل هذا التعديل موقع الشركة التنافسي ضمن العوامل التي تستخدمها في تقييم قرار الاستمرار. ولم يعد تقديرها يتوقف على الخطر الناشئ عن نظامها في ذاته، إذ أصبحت تقارن أيضًا نتائج استمرارها بما تتوقع أن يفعله المطورون الآخرون. بالتالي يمكن أن يجعل ذلك نظامًا مرتفع الخطر يبدو أكثر قبولًا إذا اعتبرت الشركة أن انسحابها سيترك المجال لمنافس أشد خطرًا.

المشكلة أن المؤسسة التي تستفيد من الاستمرار هي نفسها التي تقدر فائدته الاجتماعية، في وقت قد تجعل فيه خسارة موقعها التنافسي التوقف أكثر تكلفة عليها. وهكذا تستطيع المنافسة الضغط على القرار حتى عندما ترى الإدارة نفسها ملتزمة بالسلامة، لأن قدرتها على التمويل ومواصلة التطوير ترتبط ببقائها داخل السباق.

قدمت Anthropic أيضًا أسبابًا تقنية لتعديل سياستها. فقد أوضحت في إصدار فبراير أنها واجهت صعوبة أكبر من المتوقع في تحديد اللحظة التي تتجاوز فيها قدرات النماذج مستوى يستدعي تطبيق ضمانات معينة، ورأت أن بعض إجراءات الحماية تحتاج إلى تعاون بين عدة مطورين. وإذا كانت عتبة الإيقاف نفسها صعبة التحديد بما يكفي، فقد يكون تعديل القاعدة محاولة لتحسين سياسة لم تعمل كما كان متوقعًا، لذلك لا تكفي مرونة السياسة في ذاتها لإثبات تراجع مستوى السلامة.

لكن صعوبة القياس توسع مساحة التقدير البشري داخل القرار. فعندما لا تقدم الاختبارات إجابة حاسمة، تضطر المؤسسة إلى الموازنة بين مخاطر غير مؤكدة وكلفة اتخاذ احتياطات إضافية أو تأخير التطوير. وتكون بعض هذه الكلفة واضحة ومباشرة بالنسبة إلى الشركة، مثل تأجيل منتج أو خسارة موقع تنافسي، بينما يصعب تقدير الخسائر التي قد تقع على أطراف خارجها. ومع بقاء المعرفة بالمخاطر ناقصة، تصبح الجهة التي تملك حق الحسم طرفًا في تحديد مقدار الخطر الذي سيُقبل ومن سيتحمل نتائجه.

وتظهر هنا حدود التعهد الذاتي، إذ تستطيع المؤسسة أن تنشر قواعد تلتزم بها وأن تتيح للجمهور مقارنة قراراتها بهذه القواعد، لكنها تحتفظ بسلطة واسعة على تفسير التعهد وتعديله عندما تتغير الظروف. وقد تنتهي الشفافية إلى إبلاغ الجمهور بالقرار من دون أن تمنحه قدرة على منعه أو تغييره قبل وقوع أثره.

من المنافسة إلى التنظيم

تظهر المعضلة الجماعية عندما يستطيع كل مطور تبرير الاستمرار بأن توقفه لن يمنع منافسيه من مواصلة السباق. وإذا تصرفت الشركات على هذا الأساس، تدخل أفعال المنافسين المتوقعة في مبررات القرارات الفردية من دون وجود حد مشترك للمخاطر التي يمكن للصناعة قبولها. وقد ترى شركة أن استمرارها أقل خطرًا من ترك المجال لمنافس آخر، لكن هذه المقارنة لا تحدد وحدها مقدار الخطر المقبول بالنسبة إلى المجتمع.

ولرأس المال نفسه مصلحة في تجنب أضرار قد تدمر الثقة أو تعطل النشاط الاقتصادي، ويمكن لقواعد ملزمة أن تجعل الاحتياط أقل كلفة على الشركة من المجازفة. غير أن مصلحة الشركة المنفردة لا تضمن إدخال جميع خسائر المتأثرين في حساباتها، كما أن المصلحة العامة لأصحاب رأس المال في استمرار النشاط الاقتصادي لا تكفي لتنسيق قرارات شركات تتنافس فيما بينها.

يستطيع التنظيم الملزم أن يفرض حدًا مشتركًا على جميع المطورين، بحيث لا يصبح استمرار المنافسين مبررًا لتجاوز متطلبات السلامة. لكن فاعلية هذه القواعد تتوقف على الجهة التي تراقب الشركات وعلى قدرتها على التدخل في قراراتها. 

وتحتاج هذه الجهة إلى الموارد والخبرة اللازمتين لفحص ادعاءات المطورين بصورة مستقلة، وإلى صلاحية وقف النشاط عندما لا تتوافر الضمانات المطلوبة. وإذا ظلت عاجزة عن التحقق المستقل، يبقى جانب مهم من القرار الفعلي لدى المؤسسة الخاضعة للرقابة.

وتحتاج الجهة التنظيمية نفسها إلى مساءلة اجتماعية، لأن استقلالها عن الشركة لا يضمن أن تعكس قراراتها مصالح جميع المتأثرين. فقد تركز الدولة أو الجهة المنظمة على استمرار الصناعة أو الحفاظ على قدرتها التنافسية، بينما تتحمل فئات أخرى جزءًا من المخاطر أو الكلفة. لذلك يظل السؤال قائمًا عن قدرة العمال والمتأثرين على التأثير في هذه القرارات حتى مع وجود تنظيم ملزم.

ويبقى بعد ذلك سؤال أوسع يتعلق بمن يملك الموارد اللازمة لتطوير هذه الأنظمة، وبمن يحدد الأغراض التي توجه إليها وشروط استخدامها. وبذلك يرتبط النقاش حول السيطرة على الذكاء الاصطناعي بالملكية والعمل وتوزيع السلطة على التقنية نفسها.