قبل وقوع الكارثة.. لماذا تحتاج أميركا والصين إلى قواعد مشتركة للذكاء الاصطناعي؟
تاريخ النشر:
تتصاعد المخاوف من أنه في أي مواجهة مستقبلية بين أميركا والصين، قد يؤدي خطأ للذكاء الاصطناعي في الاستخبارات العسكرية أو البنية التحتية الحيوية إلى رد انتقامي قبل تحديد ملابسات الواقعة، ما يصعّب تحديد ما إذا كانت متعمدة أو آلية أو عرضية أو نتيجة تلاعب. ويأتي ذلك في ظل مساعي كل طرف إلى تحقيق الهيمنة في هذا المجال وتأمين تفوقه التكنولوجي، حيث اعتمدت واشنطن قيودا على تصدير أشباه الموصلات، واستثمرت في الإمكانيات المحلية للذكاء الاصطناعي لتعزيز قدراتها المحلية.
ويشير تحليل نشرته مجلة "ناشونال إنتريست" الأميركية" إلى أنه في 26 سبتمبر/ أيلول الماضي، أخطأ تقرير استخباراتي مدعوم بالذكاء الاصطناعي في تحديد سفينة صينية بالشرق الأوسط، مدعياً أنها تحمل مواد مرتبطة ببرنامج للأسلحة النووية، واستعدت القوات الأميركية لاعتراضها، قبل أن يتبين لكبار المسؤولين عدم صحة المعلومات.
وتكشف الواقعة كيف يمكن لتقييم خاطئ بمساعدة الذكاء الاصطناعي أن يؤدي إلى تحرك عسكري قبل التحقق من دقته، بما قد يشعل أزمة دبلوماسية، وهو ما يبرز ضرورة وضع ضمانات وقائية مع تزايد الاعتماد على هذه التكنولوجيا في العمليات الحساسة. وأعد التحليل الباحثان " أليكسا سون"- وهي طالبة بجامعة ميشيغان، تدرس للحصول على درجة البكالوريوس في الآداب والعلوم السياسية والدراسات الدولية وتشمل خبراتها إجراء البحوث السياسية والكتابة- و"ويس ماكغفرن"، وهو طالب بجامعة نيويورك، يدرس للحصول على درجة البكالوريوس في الآداب في العلاقات الدولية، ويتمتع بخبرات واسعة في مجال البحوث التشريعية. وفي الوقت نفسه، استثمرت الصين في تطوير قدراتها التكنولوجية وتعزيز الاعتماد على الذات، وخفض الاعتماد على التكنولوجيا الأميركية، وقد حققت نماذجها المفتوحة تقدما يتحدى افتراضات بشأن استمرار التفوق الأميركي. احتمالات اندلاع أزمة ومع التنامي الواسع في الأهمية الاستراتيجية للذكاء الاصطناعي، "تتعدد احتمالات اندلاع أزمة بين واشنطن وبكين، سواء بسبب هجوم تنفذه أسلحة ذاتية التشغيل، أو تقييم استخباراتي خاطئ، أو عملية إلكترونية غير متوقعة، أو عطل تقني يتم تفسيره على أنه عمل عدائي". وبحسب الباحثين، "من شأن الاتصالات الطارئة والمشاركة البشرية الفعلية في اتخاذ القرارات أن تساعدا على الحيلولة دون التصعيد. وتقدم الحرب الباردة سابقة في هذا الشأن، فواشنطن وموسكو لم تثقا إحداهما بالأخرى قط، لكنهما أقامتا مع ذلك ضمانات للحيلولة دون تحول تنافسهما إلى كارثة". ويتمثل الدرس الأول الذي يجب استخلاصه من أي سباق تسلح في أن المنافسة تنتج ضغوطاً قد تشوّه الأحكام والتقديرات. فخلال الحرب الباردة، سادت المخاوف من التخلف عن الركب الفعلي، كما حدث مع "فجوة الصواريخ" بعد إطلاق القمر الصناعي "سبوتنيك 1" عام 1957، رغم تفوق أميركا في هذا المجال. مشكلة الصندوق الأسود وينطبق ذلك على سباق الذكاء الاصطناعي، حيث توضح "مشكلة الصندوق الأسود"، المتمثلة في تطوير الذكاء الاصطناعي دون فهم كامل لتداعيات هذه التكنولوجيا، مخاطر تجاوز وتيرة المنافسة لمستوى الفهم والاستيعاب. وتتفاقم هذه المخاطر مع امتداد تأثير الذكاء الاصطناعي من العالم الافتراضي إلى الواقع المادي، "وقد علمتنا الحرب الباردة أن بناء التوافق والحوار أمران أساسيان لتجنب التصعيد، حتى في أوقات الصراع، إذ "كادت هذه المخاطر أن تتحول إلى واقع خلال أزمة الصواريخ الكوبية، عندما أدى بطء الاتصالات إلى إمكانية تغير الأوضاع قبل وصول الرسائل". ومع أن الضغوط تبدو مألوفة، فإن الذكاء الاصطناعي، بخلاف الأسلحة النووية، هو تكنولوجيا متعددة الاستخدامات تمتد إلى كافة المجالات، ويتوزع تطويرها بين الحكومات والشركات والجامعات ومراكز البحث. وبحسب التحليل، طوّر القطاع الخاص أكثر من 90% من أبرز نماذج الذكاء الاصطناعي المتقدمة في 2025، مما يجعل من الصعب قياس القدرات في هذا المجال. ورغم وجود معايير لتقييم أداء النماذج، "لا يوجد مقياس شامل يحدد قدراتها وموثوقيتها، فيما تتجاوز المنافسة بين أميركا والصين لتشمل أوروبا وقوى تكنولوجية أخرى وشركات تعمل عالمياً".وهذه المخاوف منطقية، فالذكاء الاصطناعي، إذا ترك دون ضوابط، ينطوي على مخاطر أكبر من الأسلحة النووية، فهو يمكن أن "يتصرف دون تصريح، ما يزيد خطورته عند دمجه في الاستخبارات العسكرية والبنية التحتية الحيوية. تهديد محتمل للأمن القومي ووصف داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك"، الذكاء الاصطناعي القوي بأنه تهديد محتمل للأمن القومي لا سابق له. ويشير التحليل إلى رأي توماس شيلينج، أحد أبرز الباحثين في مجال الردع، ومفاده أن "الاستراتيجية العسكرية في ظل الأسلحة النووية تقوم على توظيف المخاطر والإكراه والقدرة على إلحاق الضرر، وليس خوض حرب مباشرة." وبما أن أيا من الطرفين لا يستطيع السيطرة الكاملة على احتمالات التصعيد، "فإن ارتفاع مخاطر وقوع كارثة قد يدفع الأطراف إلى التخلي عن المنافسة مبكراً، عندما تصبح تكلفتها أكبر من مكاسبها المحتملة، ويجعل ضبط النفس المتبادل خياراً عقلانياً". ولا يمكن أن يكون ضبط النفس مستقراً "إلا إذا اعتقد كل طرف أن الآخر سيلتزم به. وليس لدى الولايات المتحدة والصين أسباب كثيرة للثقة المتبادلة دون وجود وسيلة للتحقق من الالتزام. ولا تتطلب الاتصالات خلال الأزمات آليات للتحقق، ولذلك فهي المجال الأنسب للبدء". وإذا كان تصاعد المخاطر يمكن أن يدفع الخصوم إلى ضبط النفس، "فقد يكون من المغري استنتاج أن اندلاع أزمة مرتبطة بالذكاء الاصطناعي سيكون أمراً مفيداً. فالأزمات قد تشجع التعاون، لكنها قد تؤدي أيضا إلى إثارة الذعر، وتشجيع الرد الانتقامي". درس الحرب الباردة ودرس الحرب الباردة لا يعني أن الأزمات ضرورية للتعاون، بل أن عواقب غياب الضمانات قد تكون خطيرة. ولذلك، "ينبغي لواشنطن وبكين توسيع الخط الساخن بينهما ليشمل الحوادث المرتبطة بالذكاء الاصطناعي، قبل أن تجعل الأزمات التعاون أكثر صعوبة". ولا يكون الخط الساخن فعالا إلا باستجابة الطرف الآخر، "لكن بكين كثيرا ما تركت الاتصالات دون رد، كما حدث، مثلا، عقب قصف سفارتها في بلغراد عام 1999، وحوادث أخرى. ومع ذلك، "تختلف حوادث الذكاء الاصطناعي، إذ قد تقع دون تعمد من أي طرف، ولا يفيد الصمت في التعامل معها". ويؤكد الباحثان أهمية عقد قمم ثنائية رسمية لمناقشة مخاطر الذكاء الاصطناعي والخطوط الحمراء، وبدونها "لن يكون للخط الساخن تأثير يذكر في حال اندلاع أزمة محتملة مرتبطة بهذه التكنولوجيا". كما ينبغي لواشنطن وبكين البدء بالاتفاق على تعريفات مشتركة لمصطلحات مثل "التصرف المستقل"، و"الهجوم المدعوم بالذكاء الاصطناعي"، و"فقدان السيطرة" وغيرها، وأيضا الاتفاق على الحوادث التي تستوجب الإخطار الفوري. ولا يمكن للدبلوماسيين وحدهم إدارة هذه المناقشات، "فيجب أن تشمل قنوات الاتصال المباشر بين الجيشين مسؤولين عسكريين وخبراء تقنيين ومتخصصين في الأمن السيبراني وباحثين في الذكاء الاصطناعي. كما يجب على الطرفين الالتزام بإبقاء السيطرة البشرية على أنظمة القيادة والسيطرة النووية، وأنظمة الإنذار المبكر، والأسلحة ذاتية التشغيل، والعمليات السيبرانية التي تؤثر في البنية التحتية الحيوية". إخفاقات محدودة للذكاء الاصطناعي حتى الآن وقد يسلك سباق الذكاء الاصطناعي مساراً مماثلاً، "ولكن مع اختلاف جوهري، فخطر المواجهة النووية كان واضحاً وفورياً، بينما ظلت إخفاقات الذكاء الاصطناعي حتى الآن محدودة ومتفرقة، ويسهل على كل طرف تجاهلها أو إلقاء اللوم فيها على الطرف الآخر". وبدأ الخطران بالفعل في التداخل، ففي عام 2024، اتفقت واشنطن وبكين على ضرورة أن يظل قرار استخدام الأسلحة النووية خاضعا لسيطرة البشر وليس الذكاء الاصطناعي. وفي ختام التحليل، يقول الباحثان سون وماكجفرن، إن مخاطر فقدان السيطرة لا تؤدي إلى إنهاء السباق من تلقاء نفسها، "لكنها تتيح فرصة للتعاون يتعين على القادة اغتنامها. وكلما تعامل البلدان بجدية أكبر مع خطر فقدان السيطرة، اتسعت هذه الفرصة." وبعبارة أخرى، "لا تحتاج واشنطن وبكين إلى اندلاع أزمة فعلية، كي تتعاونا، بل تحتاجان إلى إدراك وجود أزمة محتملة. ومن شأن وضع معايير للإفصاح والإخطار بالحوادث أن يحول الإخفاقات الصغيرة والمتفرقة إلى أدلة مشتركة يصعب على أي من الطرفين تجاهلها. ويبقى السؤال هو ما إذا كان البلدان سيضعان الضمانات اللازمة قبل أن تجبرهما أزمة على ذلك".