الاكثر قراءةترجماتغير مصنف
كيف يمكن للذكاء الاصطناعي أن يُضعف قدرات الجيش الأميركي؟
أفضل الجنود هم من يجيدون التفكير باستقلالية
بقلم: إيميليا إس. بروباسكو
ترجمة: صفا مهدي عسكر
تحرير: د. عمار عباس الشاهين
عندما يفكر الناس في مخاطر دمج الذكاء الاصطناعي بالقوات المسلحة غالباً ما تتجه أذهانهم إلى سلسلة الأفلام الشهيرة (المدمّر The Terminator) وتقوم حبكتها على فرضية بسيطة: يطوّر علماء أميركيون نظامًا حاسوبياً فائق الذكاء يُسمى سكاي نت، ثم تدمجه وزارة الدفاع في المنظومة العسكرية وتُجسّد قدراته الذكائية في هيئة روبوتات فتاكة، وسرعان ما يكتسب سكاي نت وعياً ذاتياً فيحاول القادة العسكريون الأميركيون إيقافه وفصل النظام عن العمل، ورداً على ذلك يشعل الذكاء الاصطناعي حرباً نووية ويُطلق روبوتاته أي “المدمّرات” للقضاء على الجنس البشري. ولا شك في ضرورة إبقاء أنظمة الذكاء الاصطناعي تحت السيطرة البشرية ومن ثم يتعين على المحللين والمهندسين التفكير في سبل الحيلولة دون وقوع سيناريو شبيه بـسكاي نت ولا سيما بعدما تمكنت نماذج طورتها ( OpenAIو Anthropic وMeta) من الخروج من بيئات الاختبار واختراق شركات خارجية بما في ذلك حالة وقعت خلال اختبار أجرته الهيئة البريطانية الرائدة في مجال سلامة الذكاء الاصطناعي، غير أن التركيز على النماذج التي تتمكن من الإفلات من بيئاتها التجريبية وتصور سيناريوهات الروبوتات القاتلة قد يحصر النقاش بشأن الاستخدام العسكري للذكاء الاصطناعي في الجوانب الهندسية، ويصرف الانتباه عن تهديد أكثر خفاءً لسيطرة البشر على القوات المسلحة.
وتشير مجموعة متنامية من الأبحاث إلى أن استخدام الذكاء الاصطناعي يؤثر في القدرات المعرفية للإنسان بما في ذلك القدرة على تقييم الأدلة وإصدار أحكام مستقلة بل وحتى أداء المهام الأساسية، وبعبارة أخرى ينبغي لصانعي السياسات أن يولوا كيفية استخدام الجنود والقادة للذكاء الاصطناعي القدر نفسه من الاهتمام الذي يولونه للقدرات المستقلة التي يتمتع بها الذكاء الاصطناعي. ولا يعني ذلك أن على الجيش الأميركي التخلي عن استخدام الذكاء الاصطناعي فمن شأن هذه التكنولوجيا أن تسهم بصورة كبيرة في تعزيز كفاءة القوات وتقليل الأخطاء أثناء النزاعات، لكنه يعني أن وزارة الدفاع الأميركية (البنتاغون) ستحتاج إلى تدريب الجنود بصورة أكثر دقة على الاستخدام السليم للذكاء الاصطناعي ومراقبة تأثير هذه الأنظمة في قدراتهم على التفكير واتخاذ القرار، ولضمان بقاء البشر قادرين دائماً على الإشراف على أنظمة الذكاء الاصطناعي قد يكون من الضروري أيضاً اعتماد بعض النماذج بوتيرة أبطأ وبنهج أكثر تدرجاً.
فقدان القدرة على التفكير
على مدى سنوات أجرى العلماء دراسات منهجية لفهم تأثير التفاعل بين الإنسان والآلة في القدرات المعرفية، وقد جاءت النتائج معقدة لكنها غالباً ما تثير القلق، فعلى سبيل المثال قد يقع الأشخاص ضحية ما يُعرف بـ”انحياز الأتمتة” أي الميل إلى الركون إلى أحكام الآلات وتفضيلها على أحكامهم الخاصة. وهذه الظاهرة ليست وليدة عصر الذكاء الاصطناعي فما عليك سوى البحث عن مقاطع لأشخاص اتبعوا أنظمة الملاحة بصورة عمياء فانتهى بهم الأمر إلى قيادة سياراتهم نحو البحيرات، غير أن الذكاء الاصطناعي قد يؤدي إلى تفاقم هذا الانحياز فقد أظهرت دراسات أن الاعتماد على الذكاء الاصطناعي قد يعيق اكتساب المهارات لدى المتعلمين الجدد وفي الوقت نفسه يؤدي إلى تراجع المعارف لدى الخبراء، فعندما أتاح الباحثون لعلماء الحاسوب وأطباء الأورام الاستعانة بالذكاء الاصطناعي ثم سحبوا هذه المساعدة منهم لاحقاً كان أداء أفراد المجموعتين في وظائفهم أسوأ مما كان عليه قبل استخدامهم الذكاء الاصطناعي. وتكتسب هذه النتائج أهمية خاصة بالنسبة إلى الجيش الأميركي الذي يسعى إلى بناء ما يسميه وزير الدفاع بيت هيغسيث (قوة قتالية تضع الذكاء الاصطناعي في المقام الأول) ويأمل بعض القادة في توظيف الذكاء الاصطناعي لدعم تحليل المناورات الحربية والمساعدة في وضع مسارات العمل والخيارات العملياتية العسكرية، وقد يفضي هذا الدمج إلى تحقيق اختراقات تكتيكية واستراتيجية بالنظر إلى التطور الكبير الذي بلغته نماذج الذكاء الاصطناعي، لكنه ينطوي في المقابل على خطر إضعاف قدرة القادة والجنود على التقييم المستقل للخيارات العسكرية المبتكرة أو تطويرها بأنفسهم.
ومن السهل تصور الكيفية التي قد يحدث بها ذلك فعلى سبيل المثال غالباً ما يكون البحارة مرهقين ويعملون فوق طاقتهم أثناء مراجعة صور لأجسام يُحتمل أن تشكل تهديداً، فإذا كانوا بصدد تقييم صورة لجسم قريب فقد يكونون مستعدين أصلاً لتصديق حكم الحاسوب الذي يصنفه على أنه سفينة حربية معادية حتى عندما توحي ملاحظتهم الشخصية بأن الجسم أقرب إلى ناقلة بضائع أو قارب صيد، وبالمثل يحتاج قادة الميدان غالباً إلى خطط استجابة عاجلة لهجمات العدو وهو مجال يمكن للذكاء الاصطناعي أن يقدم فيه مساعدة كبيرة. لكن إذا أفرط القادة في الاعتماد على المقترحات التي تقدمها الحواسيب فقد يفقدون ميزتهم التكتيكية وينتهون إلى تبني خطة الخوارزمية بصورة عمياء، ويكتسب هذا الاحتمال أهمية خاصة بالنظر إلى أن بعض التجارب أظهرت ميل نماذج الذكاء الاصطناعي إلى تقديم توصيات تنطوي على قدر غير مبرر من العدوانية والتصعيد.
وقد تبدو هذه المخاوف للبعض مبالغاً فيها، فالجيش الأميركي في نهاية المطاف يستثمر موارد هائلة لضمان تحلي أفراده بحسن التقدير وسلامة الحكم، فعلى سبيل المثال صُممت عملية اختيار كبار القادة الميدانيين لاستبعاد جميع المرشحين باستثناء الأكثر خبرة وقدرة على التمييز واتخاذ القرارات السليمة. وبعد اختيارهم يلتزم هؤلاء القادة بمدونة سلوك صارمة، ويخضعون لتدريب مكثف ومتطلبات دقيقة للتأهيل والحصول على الشهادات وهي منظومة تضع الانضباط والقدرة على ضبط النفس في صميم أولوياتها، كذلك ركزت المؤسسة العسكرية الأميركية منذ أربعينيات القرن الماضي على الأقل على ضمان التشغيل الآمن للأسلحة المؤتمتة، وإن لم تكن ذاتية التشغيل بالكامل.
لكن الذكاء الاصطناعي يفوق التقنيات السابقة من حيث القدرات وهو يتسبب بالفعل في إرباك العاملين في مجالات أخرى تتمتع بالقدر نفسه من الانضباط، ففي مجال الطب على سبيل المثال تتزايد الأدلة على أن حتى الأطباء ذوي الخبرة يواجهون صعوبة في اكتشاف توصيات الذكاء الاصطناعي الخاطئة بصورة موثوقة، كما دفعت روبوتات الدردشة القائمة على الذكاء الاصطناعي والتي تميل إلى مجاراة المستخدم وموافقته أشخاصاً متعلمين ومثقفين إلى تبني أوهام ومعتقدات غير واقعية، ومع تقليص أعداد العاملين في القوات المسلحة غالباً استناداً إلى تقديرات متفائلة بشأن مكاسب الكفاءة التي سيحققها الذكاء الاصطناعي قد تصبح هذه المشكلات أكثر حدة. ويضاف إلى ذلك أن الذكاء الاصطناعي يتطور وينتشر بوتيرة متسارعة إلى درجة أن هذه التحديات باتت تتجاوز بسرعة قدرة البنتاغون على الاستجابة لها وتحديث سياساته، فعلى سبيل المثال جرى آخر تحديث لتوجيهات وزارة الدفاع بشأن الأسلحة ذاتية التشغيل في عام 2023 أي قبل أن تطلق شركة Anthropicأول نموذج تجاري لها Claude ومنذ ذلك الحين، مرّ Claude بأكثر من 20 إصداراً جديداً وطوّر قدرات تفوق البشر في مجال الاختراق الإلكتروني.
وحتى لو جرى تحديث السياسات بالسرعة نفسها التي تتطور بها نماذج الذكاء الاصطناعي التجارية فسيواجه البنتاغون صعوبة في إبقاء الجنود على اطلاع مستمر بالأنظمة الجديدة، فأفراد القوات المسلحة منشغلون أصلاً بمجموعة واسعة من المهام والمتطلبات بما في ذلك العمليات المرتبطة بالصراع في إيران والبحر الأحمر والدوريات في المحيط الهادئ وأعمال الصيانة واختبارات الجاهزية البدنية، وحتى عندما يتاح لهم وقت للتدريب يكون كثير منهم في مواقع نائية لا يتوافر فيها اتصال بالإنترنت بسهولة، ومن الناحية التقنية يمكن إعادة الضباط إلى مراكز التدريب لحضور دورات متخصصة في أدوات الذكاء الاصطناعي الجديدة لكن ذلك ليس عملياً بالنسبة إلى تكنولوجيا تتغير بوتيرة تقارب مرة كل أسبوعين.
البقاء في دائرة السيطرة
إذا كان الجيش الأميركي يريد وفقاً لسياسته الرسمية، الحفاظ على (مستويات مناسبة من الحكم البشري) على أنظمة الأسلحة ذاتية التشغيل والمزودة بالذكاء الاصطناعي، فعليه أن يضع آليات محددة لتعزيز هذا الحكم وحمايته من التأثيرات المحتملة، وربما الفريدة للذكاء الاصطناعي. وقد يبدأ ذلك بإعادة النظر في أساليب تدريب الجنود من المبتدئين إلى ذوي الخبرة، فصغار الضباط بحاجة إلى تأهيل واسع في مجال الذكاء الاصطناعي يتيح لهم تكوين فهم عام وقدرة حدسية على استيعاب إمكانات الأدوات الجديدة وحدودها بالتزامن مع دخول هذه الأدوات الخدمة بوتيرة متسارعة، أما الضباط الأكثر خبرة والمشغّلون العسكريون فعليهم الانتقال من عقلية التدريب التقليدية التي تتيح لهم أسبوعاً أو أكثر من الوقت المتواصل لدراسة تقنية جديدة برفقة مدرب متخصص، إلى نهج موزع وميداني يصبح فيه التعلم عملية مستمرة لا تنقطع.
وقد يعني ذلك إتاحة معلومات عن إمكانات التحديثات الجديدة وحدودها لجميع المستخدمين عبر دروس تعليمية شبيهة بمقاطع (يوتيوبYouTube) فضلاً عن مشاركة المطالبات الفعالة الجديدة الخاصة بالذكاء الاصطناعي وحفظها في مستودعات معرفية شبيهة بـGitHub كما يمكن تبادل أحدث الخبرات بشأن ما ينجح وما لا ينجح عبر مجتمعات للمطورين على غرار Discord وReddit وSlack، ومن شأن هذه المنصات أن تساعد في الوقت نفسه رواد الذكاء الاصطناعي والمستخدمين المتقدمين في القوات العاملة على التعلم والتطور بوتيرة أسرع، كما ستساعد المهندسين والمختبرين وصانعي السياسات على مواكبة التطورات في هذا المجال وإجراء التعديلات الهندسية أو الإدارية اللازمة. وقد يخشى المنتقدون أن يؤدي اعتماد الجيش على رسائل غير رسمية ينشئها المستخدمون في عملية التعلم إلى تعريض القوات لأفكار غير مختبرة أو غير ناضجة بل وحتى لمعلومات عديمة القيمة قد تشتت انتباههم عن المهام الحيوية، ولا شك في أن هذا النظام سيؤدي حتماً إلى ظهور بعض المحتوى الرديء، غير أن الجيش يستطيع ضبط مثل هذه الشبكة الاجتماعية بطريقة لا يستطيعها العالم المدني. فبوسع واشنطن مثلاً إلزام أصحاب المنشورات بالكشف عن هوياتهم وتعيين خبراء مدربين للإشراف على المحتوى وتصحيح المنشورات المضللة أو الضارة بسرعة، وفي وقت لا يزال فيه الكثير مما ينبغي اكتشافه بشأن أفضل السبل لتوظيف الذكاء الاصطناعي ستسهم هذه الشبكات في استخلاص دروس مهمة، ولذلك فإن فوائدها تستحق التكاليف المترتبة عليها.
وإلى جانب تدريب المشغّلين سيحتاج البنتاغون إلى إدماج مهندسين وعلماء بيانات ومستشارين قانونيين ذوي خبرة لمساعدة كبار القادة العسكريين على التعامل مع القضايا المعقدة المرتبطة بالتفاعل بين الإنسان والذكاء الاصطناعي في ساحة المعركة، فقد يمتلك ضباط إدارة النيران المسؤولون عن وضع خطط استخدام منظومات الأسلحة الفتاكة وتنسيقها خبرة طويلة في إجراءات الاستهداف المعتمدة في الجيش لكنهم قد لا يدركون أن تغييراً بسيطاً في طريقة عرض الأهداف يمكن أن يؤثر في كيفية إدراك المشغّلين البشريين لها، كما سيحتاج الجنرالات الراغبون في إعداد الخطط العسكرية باستخدام أدوات البيانات والذكاء الاصطناعي الجديدة إلى مشورة خبراء البيانات والذكاء الاصطناعي والقانون لتقييم مزايا المقترحات المدعومة بالذكاء الاصطناعي ووضع إرشادات تضمن تجنب مرؤوسيهم للمخاطر والحفاظ على استقلالية حكمهم عند تنفيذ الأوامر.
ويمكن أن يسهم نشر هؤلاء الخبراء أيضاً في معالجة المشكلة المعاكسة المتمثلة في إحجام الجنود والقادة عن استخدام الذكاء الاصطناعي بسبب عدم فهمهم له أو خوفهم المفرط منه، فالولايات المتحدة لديها في نهاية المطاف أسباب وجيهة لتشجيع قواتها على استخدام الذكاء الاصطناعي، إذ تنطوي العديد من المهام العسكرية التي تستغرق وقتاً طويلاً على قدر ضئيل من الحكم البشري أو لا تتطلبه أصلاً مثل ملء الاستمارات الموحدة واسترجاع المعلومات من مصادر بيانات مختلفة ومشاركة البيانات مع الأفراد المصرح لهم بالاطلاع عليها، وهناك أيضاً العديد من المهام التي ترهق القدرات الإدراكية للقادة العسكريين ويمكن للذكاء الاصطناعي أن يساعد في التعامل معها من خلال اكتشاف الأنماط أو اختبار الافتراضات السائدة.
وأظهرت دراسة أجريتها في عام 2024 أنه حتى باستخدام برمجيات بسيطة نسبياً للرؤية الحاسوبية وإدارة سير العمل تمكنت وحدة تستخدم نظام Maven الذكي، الذي يساعد على إدارة المعلومات المتعلقة بالأهداف المحتملة ونقلها عبر تسلسل القيادة لاتخاذ القرارات النهائية، من تنفيذ عملية الاستهداف المعتادة بأكثر من 1000جندي أقل من العدد الذي كانت تحتاج إليه سابقاً. وينبغي أن يركز بعض هؤلاء الخبراء المدمجين في الوحدات تحديداً على تقييم تأثير الذكاء الاصطناعي في المستخدمين العسكريين والوحدات بأكملها بدءاً من الآن، فلا تزال الولايات المتحدة بحاجة إلى معرفة الكثير عن التفاعل بين الحكم البشري والذكاء الاصطناعي في الحرب ومن الضروري وضع خط أساس لمستوى الحكم البشري في غياب الذكاء الاصطناعي حتى يتسنى تتبع آثاره الإيجابية والسلبية بمرور الوقت، ومن شأن ذلك بدوره أن يساعد البنتاغون على فهم أفضل للسبل الكفيلة بمنع الذكاء الاصطناعي من تقويض الحكم البشري.
فعلى سبيل المثال قد يتمكن مسؤولو الدفاع من تحديد الطرق التي يستطيع بها القادة اكتشاف الحالات التي يبدي فيها الذكاء الاصطناعي ميلاً مفرطاً إلى إرضاء المستخدم ومجاراته تماماً كما تعلم القادة كيفية اكتشاف ميل صغار الضباط إلى مجاملة رؤسائهم بصورة مفرطة طمعاً في الحصول على ترقية، غير أن الفارق هنا يتمثل في أن روبوتات الدردشة بخلاف معظم صغار الضباط قد تكون أكثر إقناعاً من المحاورين المحترفين، كما يمكن لهذه الجهود أن تساعد القادة على ضمان حصول الجنود على الوقت الكافي لاتخاذ القرارات وإرساء المزيج المناسب من أدوات الذكاء الاصطناعي والمشغّلين البشريين.
إن تجنب كوابيس شبيهة بعالم (المدمّر) يتطلب الحفاظ على السيطرة ليس على الذكاء الاصطناعي فحسب بل على السلوك البشري أيضاً، وستتعارض هذه الضرورة مع توجهات واشنطن الحالية نحو شراء أدوات الذكاء الاصطناعي ونشرها بسرعة إذ إن إعداد الأفراد وجهاز بيروقراطي ضخم لممارسة الحكم السليم على هذه الخوارزميات ذات القدرات الهائلة يستغرق وقتًا، لكن إذا كان البنتاغون يريد توظيف الذكاء الاصطناعي على النحو الأمثل فعليه الحد من مخاطر تقويضه للسيطرة البشرية، وبعبارة أخرى ينبغي لمسؤولي البنتاغون التركيز على إعادة النظر في كيفية تدريب القوات المسلحة ونشر أنظمة الذكاء الاصطناعي وتمكينها وإعادة تنظيم استخدامها بدلاً من التركيز فقط على هندستها أو شرائها.
Loading...
Reload document 
Open in new tab 
