واشنطن وبكين تؤسسان قناة للتعامل مع حوادث الذكاء الاصطناعي

قال وزير الخزانة الأمريكي سكوت بيسنت إن مسؤولين كبارًا من الولايات المتحدة والصين سيجتمعون مجددًا في مدينة شنتشن الصينية خلال نحو شهرين، لمواصلة مناقشة مخاطر الذكاء الاصطناعي ووضع بروتوكولات للاتصال عند وقوع حوادث قد تكون لها آثار على الأمن القومي.

وجاء الإعلان بعد محادثات أجراها بيسنت مع نائب رئيس الوزراء الصيني خه ليفنج في نيويورك يوم 20 سبتمبر/أيلول الجاري، وأكد البيان الصيني أن الجانبين ناقشا قضايا مرتبطة بالذكاء الاصطناعي، لكنه لم يذكر تفاصيل مماثلة بشأن قناة الاتصال أو طبيعة البروتوكولات المقترحة.

وبحسب بيسنت، اتفق الجانبان على إنشاء حوار رسمي يتضمن ما وصفه بخط للحوادث يمكن استخدامه إذا وقع حادث خطير مرتبط بالذكاء الاصطناعي، عن طريق قناة اتصال مباشرة بين الحكومتين تسمح بتبادل المعلومات سريعًا عندما يظهر خطر قد يمتد إلى الطرف الآخر أو يسبب سوء تقدير سياسي أو أمني، وليس خطًا تقنيًا يربط أنظمة الذكاء الاصطناعي نفسها.

وقال بيسنت إن المحادثات المقبلة ستبحث أنواع الحوادث التي تستدعي هذا الاتصال، ومنها سلوك وكلاء ذكاء اصطناعي بصورة يصعب السيطرة عليها أو استخدام التقنية من جهات غير حكومية في هجمات سيبرانية.

تأتي المحادثات بينما تتنافس واشنطن وبكين على تطوير أكثر نماذج الذكاء الاصطناعي تقدمًا وعلى البنية الحاسوبية اللازمة لتشغيلها. وفرضت الولايات المتحدة قيودًا على وصول الصين إلى بعض تقنيات الحوسبة والشرائح المتقدمة، في حين تعمل الشركات الصينية على تطوير نماذج وتقنيات محلية. وكانت محادثات السلامة الحالية أول حوار ثنائي رسمي مخصص لهذه المخاطر منذ عودة دونالد ترامب إلى الرئاسة.

يُذكر أن الجانب الصيني اكتفى علنًا بتأكيد إجراء حوار بشأن الذكاء الاصطناعي. وعندما سُئلت وزارة الخارجية الصينية عن آلية محتملة لإخطار الطرف الآخر بالحوادث، أحالت إلى البيان الصادر عن الاجتماعات وإلى الجهات المختصة، وقالت إن الصين تدعو إلى تطوير منفتح وشامل للذكاء الاصطناعي. ولم تؤكد الوزارة بصورة منفصلة التفاصيل التي أعلنها بيسنت بشأن خط الحوادث.

والجمعة الماضي، كشفت شبكة CNN الأمريكية عن واقعة كادت تحدث حربًا بين الولايات المتحدة والصبن بسبب معلومات استخبارية خاطئة استندت على أداة ذكاء اصطناعي.

وأشارت الشبكة إلى أن الجيش الأمريكي ألغى في اللحظات الأخيرة عملية عسكرية كانت تستهدف اعتراض سفينة صينية في مياه الشرق الأوسط، لافتًا إلى أن الواقعة حدثت خلال النصف الأول من العام الجاري، بالتزامن مع تصاعد التوترات العسكرية بين واشنطن وطهران.

وحسب أربعة مصادر تحدثت إلى الشبكة الأمريكية، اتخذ الجيش قرار إلغاء العملية بشكل عاجل بعدما كانت مقاتلات أقلعت بالفعل، فيما كانت فرق عسكرية تستعد لتنفيذ إنزال بحري على ظهر السفينة الصينية.

وأشار التقرير إلى أن مُحللًا يعمل لدى قيادة العمليات الخاصة الأمريكية استعان بأداة ذكاء اصطناعي تعتمد على روبوت محادثة لتحليل معلومات عن السفينة الصينية، وأدخل إليها معلومات متاحة من مصادر مفتوحة، إلى جانب بيانات استخباراتية سرية جُمعت عبر اعتراض الإشارات، بهدف تحديد طبيعة الحمولة الموجودة على السفينة.

لكن أداة الذكاء الاصطناعي خلصت بشكل خاطئ إلى أن السفينة تحمل مكونات مرتبطة ببرنامج للأسلحة النووية.

واستخدم المحلل الأداة نفسها للمساعدة في صياغة النتائج داخل تقرير استخباري، قبل رفع التقرير وتداوله رسميًا عبر القنوات العسكرية المعنية. ولم يكتشف الخطأ إلا في مرحلة لاحقة، عندما راجع محللون أكثر خبرة المعلومات الواردة في التقرير، وتبين لهم أن الأداة أخطأت في تحديد طبيعة الحمولة.