تسعى الدول إلى تحقيق الرفاهية لمواطنيها من خلال توفير بيئة أكثر أمنا وأمانًا، فى إطار تحقيق أهداف التنمية المستدامة، التى تعتمد على استخدام الابتكار وتكنولوجيا الذكاء الاصطناعي، ومن هنا نشأت الحاجة إلى الآلات الذكية لتحقيق هذا الغرض خاصة فى المجالات العسكرية والأمنية.
ويساهم الكاتب بول شاري، فى إلقاء الضوء على إشكالية التقدم التكنولوجى المتزايد فى مجال الذكاء الاصطناعي، من خلال مناقشة عدد من النقاط المهمة التى تهدف إلى توضيح كيف انعكس هذا التقدم على مسار تقدم الجيوش والأسلحة فى العالم، من خلال كتابه المُعنون «Army of None: Autonomous Weapons and the Future of War» و«شاري» حارس عسكرى سابق، انضم إلى البنتاجون ليعمل فى مكتب وزير الدفاع، وطور بعض سياسات وزارة الدفاع الأولى حول التحكم الذاتي، وفى عام ٢٠١٣، التحق بمركز أمريكى للتكنولوجيا والأمن القومي.
وفى الوقت الذى يشهد فيه العالم المزيد من التقدم والرقى فى مجالات تكنولوجيا المعلومات، تواجه المجتمعات المتقدمة، قبل النامية، عددًا من المخاطر المستقبلية، نتيجة لاختلال التوازن بين الموارد البشرية والآلات الذكية، وقدراتها الخارقة التى تفوق قدرات الإنسان العادى بشكل كبير فى العديد من المجالات.
ويساهم الكاتب بول شاري، فى إلقاء الضوء على إشكالية التقدم التكنولوجى المتزايد فى مجال الذكاء الاصطناعي، من خلال مناقشة عدد من النقاط المهمة التى تهدف إلى توضيح كيف انعكس هذا التقدم على مسار تقدم الجيوش والأسلحة فى العالم، من خلال كتابه المُعنون «Army of None: Autonomous Weapons and the Future of War» و«شاري» حارس عسكرى سابق، انضم إلى البنتاجون ليعمل فى مكتب وزير الدفاع، وطور بعض سياسات وزارة الدفاع الأولى حول التحكم الذاتي، وفى عام ٢٠١٣، التحق بمركز أمريكى للتكنولوجيا والأمن القومي.
وفى الوقت الذى يشهد فيه العالم المزيد من التقدم والرقى فى مجالات تكنولوجيا المعلومات، تواجه المجتمعات المتقدمة، قبل النامية، عددًا من المخاطر المستقبلية، نتيجة لاختلال التوازن بين الموارد البشرية والآلات الذكية، وقدراتها الخارقة التى تفوق قدرات الإنسان العادى بشكل كبير فى العديد من المجالات.
جدلية القتل
يبدأ الكاتب برواية عن حادثة تعرض لها أثناء قيامه بدورية كحارس للجيش الأمريكى فى أفغانستان فى عام ٢٠٠٤، حينما اقتربت فتاة صغيرة عمرها خمس أو ست سنوات ترعى زوجين من الماعز من فريقه أثناء تواجدهم بالقرب من أحد الجبال، وكان بحوزتها جهاز راديو، وأدركوا حينها أنها تقوم بالإبلاغ عن موقعها لمقاتلى طالبان. وعليه ماذا يجب أن يفعلوا تجاه هذه الفتاة التى تمثل تهديدًا مباشرًا على فريقه؛ فوفقًا لقوانين الحرب، تعد هذه الفتاة من الأعداء ويُسمح أن يتم إطلاق النار عليها بغض النظر عن سنها، إلا أنه رفض الاقتراب منها وابتعد هو وفريقه وقاموا بتنظيم أنفسهم من جديد فى مكان أكثر أمنًا، وذلك على حسب رواية الكاتب، ولكن ماذا كان يمكن للآلة أن تفعل فى هذا الموقف؟ إذا تمت برمجتها لقتل المقاتلين الأعداء بشكل قانوني، لكانت قد هاجمت الطفلة بدون تراجع. لذا يحاول الكاتب من خلال سرد هذا الموقف أن يسلط الضوء على واحدة من أخطر المسائل الجدلية، وهى ما إذا كان سيتم تطوير أنظمة أسلحة مستقلة يمكن أن تهاجم الأعداء، فكيف لها أن تدرك أنه قتال شرعي وتستطيع التفرقة بين الأعداء.
يبدأ الكاتب برواية عن حادثة تعرض لها أثناء قيامه بدورية كحارس للجيش الأمريكى فى أفغانستان فى عام ٢٠٠٤، حينما اقتربت فتاة صغيرة عمرها خمس أو ست سنوات ترعى زوجين من الماعز من فريقه أثناء تواجدهم بالقرب من أحد الجبال، وكان بحوزتها جهاز راديو، وأدركوا حينها أنها تقوم بالإبلاغ عن موقعها لمقاتلى طالبان. وعليه ماذا يجب أن يفعلوا تجاه هذه الفتاة التى تمثل تهديدًا مباشرًا على فريقه؛ فوفقًا لقوانين الحرب، تعد هذه الفتاة من الأعداء ويُسمح أن يتم إطلاق النار عليها بغض النظر عن سنها، إلا أنه رفض الاقتراب منها وابتعد هو وفريقه وقاموا بتنظيم أنفسهم من جديد فى مكان أكثر أمنًا، وذلك على حسب رواية الكاتب، ولكن ماذا كان يمكن للآلة أن تفعل فى هذا الموقف؟ إذا تمت برمجتها لقتل المقاتلين الأعداء بشكل قانوني، لكانت قد هاجمت الطفلة بدون تراجع. لذا يحاول الكاتب من خلال سرد هذا الموقف أن يسلط الضوء على واحدة من أخطر المسائل الجدلية، وهى ما إذا كان سيتم تطوير أنظمة أسلحة مستقلة يمكن أن تهاجم الأعداء، فكيف لها أن تدرك أنه قتال شرعي وتستطيع التفرقة بين الأعداء.
الإرهاصات الأولى
يسعى الكاتب إلى رصد مراحل التقدم التى شهدتها الأسلحة الذاتية؛ حيث تعود إلى حقبة الحرب الأهلية متجسدة فى بندقية «جاتلينج» التى تتميز عن غيرها من الأسلحة لكونها يمكن أن تطلق عشرات المرات أسرع من البنادق السابقة، وعلى الرغم من أن البندقية لم تكن قادرة على الإحساس أو الاستجابة لبيئتها، إلا أنها تعمل على أتمتة (Automation) عملية «تحميل الرصاص، وإطلاق النار، وإخراج الخراطيش وهو يوضح وجهة نظره حول الخط الفاصل بين الأنظمة الأوتوماتيكية والأوتوماتيكية والذاتية.
وبدأت الدول استهداف التكنولوجيا كركيزة أساسية فى تقدمها؛ حيث شهد عام ١٩١٤ اختبارا للمخترع إلمر سبيري، لفكرة الطيار الآلى من خلال استخدام «جيروسكوب» للتحكم فى الرحلات الجوية، ثم توالت التجارب، ففى أوائل الخمسينيات من القرن العشرين، طورت القوات الجوية الأمريكية أنظمة التحكم الخاصة بها من خلال نظام توجيه رادارى للطائرات بدون طيار تمكنها من اتباع التضاريس بشكل مستقل، لكنها تحتاج إلى خرائط طبوغرافية سابقة العمل.
وفى الثمانينيات، نشر الأسطول الأمريكى صاروخًا مضادًا للسفن يمكنه مطاردة السفن السوفيتية واكتشافها وإغراقها من تلقاء نفسها، إلا أنه لم يتم استخدامه مطلقًا لأنه لم يمكن من التمييز بين السفن الحربية والسفن الأخرى، وقد أدى التقدم فى قدرات أجهزة الاستشعار والقوة الحسابية والبراعة الخوارزمية إلى تطور الأسلحة الذاتية بشكل كبير.
يسعى الكاتب إلى رصد مراحل التقدم التى شهدتها الأسلحة الذاتية؛ حيث تعود إلى حقبة الحرب الأهلية متجسدة فى بندقية «جاتلينج» التى تتميز عن غيرها من الأسلحة لكونها يمكن أن تطلق عشرات المرات أسرع من البنادق السابقة، وعلى الرغم من أن البندقية لم تكن قادرة على الإحساس أو الاستجابة لبيئتها، إلا أنها تعمل على أتمتة (Automation) عملية «تحميل الرصاص، وإطلاق النار، وإخراج الخراطيش وهو يوضح وجهة نظره حول الخط الفاصل بين الأنظمة الأوتوماتيكية والأوتوماتيكية والذاتية.
وبدأت الدول استهداف التكنولوجيا كركيزة أساسية فى تقدمها؛ حيث شهد عام ١٩١٤ اختبارا للمخترع إلمر سبيري، لفكرة الطيار الآلى من خلال استخدام «جيروسكوب» للتحكم فى الرحلات الجوية، ثم توالت التجارب، ففى أوائل الخمسينيات من القرن العشرين، طورت القوات الجوية الأمريكية أنظمة التحكم الخاصة بها من خلال نظام توجيه رادارى للطائرات بدون طيار تمكنها من اتباع التضاريس بشكل مستقل، لكنها تحتاج إلى خرائط طبوغرافية سابقة العمل.
وفى الثمانينيات، نشر الأسطول الأمريكى صاروخًا مضادًا للسفن يمكنه مطاردة السفن السوفيتية واكتشافها وإغراقها من تلقاء نفسها، إلا أنه لم يتم استخدامه مطلقًا لأنه لم يمكن من التمييز بين السفن الحربية والسفن الأخرى، وقد أدى التقدم فى قدرات أجهزة الاستشعار والقوة الحسابية والبراعة الخوارزمية إلى تطور الأسلحة الذاتية بشكل كبير.
الجمع بين الإنسان والآلة
ويقودنا الكتاب إلى العالم المستقبلى لتكنولوجيا أسلحة التحكم الذاتي، أو «الروبوتات القاتلة»، مدفوعًا بالذكاء الاصطناعى والقادرة على شن الحرب دون الحاجة إلى قيادة بشرية، على الرغم من أنها تبدو وكأنها قطعة من فيلم خيال علمي، إلا أن التكنولوجيا اللازمة لبناء أسلحة ذاتية التحكم موجودة بالفعل وعلى وشك التطور.
وفى حقيقة الأمر يوجد حاليًا أسلحة متطورة تتميز بالعديد من السمات الذاتية مثل صاروخ Brimstone، وطائرة Harpy Drone الإسرائيلية، ونظام القتال Aegis التابع للوحدة البحرية الأمريكية التى تجسد لمحات مستقبلية عن مدى التقدم السريع فى تكنولوجيا الحوسبة، والروبوتات، وتطوير أجهزة الاستشعار عالية الوضوح سيمكن قريبًا من إنشاء أسلحة قادرة على «التفكير» لأنفسها والقيام بمهام قتالية دون الحاجة إلى وجود قائد.
وبرغم من ذلك إلا أن الكاتب يرى أنه من غير المحتمل أن تستخدم القوات العسكرية الحكومية أسلحة ذاتية التحكم بدون إشراف إنسانى فى الوقت الذى تشن فيه الحرب، مبررًا أن الجمع بين البشر والآلات فى فريق واحد كـ «المخلوق الأسطوري» النصف إنساني، ونصف الحصان، سيكون أفضل؛ حيث الجمع بين دقة الأتمتة ومرونة الذكاء البشري، ومع ذلك فهو يبرز بشكل صحيح المخاوف من أن الجماعات الإرهابية والمجرمين والفاعلين من غير الدول يمكنهم بسهولة تطوير أسلحتهم المستقلة الذاتية الصنع واستخدامها بدون ضمانات، واستخدام الطائرات الاستهلاكية بدون طيار والتكنولوجيا الإلكترونية وبرمجيات المصادر المفتوحة.
ويقودنا الكتاب إلى العالم المستقبلى لتكنولوجيا أسلحة التحكم الذاتي، أو «الروبوتات القاتلة»، مدفوعًا بالذكاء الاصطناعى والقادرة على شن الحرب دون الحاجة إلى قيادة بشرية، على الرغم من أنها تبدو وكأنها قطعة من فيلم خيال علمي، إلا أن التكنولوجيا اللازمة لبناء أسلحة ذاتية التحكم موجودة بالفعل وعلى وشك التطور.
وفى حقيقة الأمر يوجد حاليًا أسلحة متطورة تتميز بالعديد من السمات الذاتية مثل صاروخ Brimstone، وطائرة Harpy Drone الإسرائيلية، ونظام القتال Aegis التابع للوحدة البحرية الأمريكية التى تجسد لمحات مستقبلية عن مدى التقدم السريع فى تكنولوجيا الحوسبة، والروبوتات، وتطوير أجهزة الاستشعار عالية الوضوح سيمكن قريبًا من إنشاء أسلحة قادرة على «التفكير» لأنفسها والقيام بمهام قتالية دون الحاجة إلى وجود قائد.
وبرغم من ذلك إلا أن الكاتب يرى أنه من غير المحتمل أن تستخدم القوات العسكرية الحكومية أسلحة ذاتية التحكم بدون إشراف إنسانى فى الوقت الذى تشن فيه الحرب، مبررًا أن الجمع بين البشر والآلات فى فريق واحد كـ «المخلوق الأسطوري» النصف إنساني، ونصف الحصان، سيكون أفضل؛ حيث الجمع بين دقة الأتمتة ومرونة الذكاء البشري، ومع ذلك فهو يبرز بشكل صحيح المخاوف من أن الجماعات الإرهابية والمجرمين والفاعلين من غير الدول يمكنهم بسهولة تطوير أسلحتهم المستقلة الذاتية الصنع واستخدامها بدون ضمانات، واستخدام الطائرات الاستهلاكية بدون طيار والتكنولوجيا الإلكترونية وبرمجيات المصادر المفتوحة.
تكلفة الحرب
ويثير الكاتب عددا من القضايا الشائكة فى كتابه الصادر حديثًا؛ حيث تابع فيه التطورات والطريقة التى تتغير بها أنماط الحروب وأساليب خوضها، ومدى تأثيرها بتقدم التكنولوجيا علاوة على مناقشة بعض القضايا القانونية والأخلاقية المتعلقة بقوانين القتال المسلح، كما يقدم آراء مجموعة من الخبراء وكبار المفكرين فى هذا المجال لتسليط الضوء على أهم التحديات المحتملة للحروب المستقبلية التى سترتكز على الذكاء الاصطناعي. وفى هذا الصدد يطرح «شاري» عددا من الأسئلة التى تعبر عن قلقه تجاه المسارات المتقدمة التى تشهدها الصناعات الدفاعية، ومدى تأثيرها على مستقبل الجيوش فى المستقبل حيث تراجعت القيمة البشرية مقابل تصاعد قيمة الأسلحة المتقدمة، وعليه برزت بعض الأسئلة المتعلقة بمدى طموح الدول فى تطوير هذه الأسلحة وهل يمكن الاتفاق على حظرها؟ وفى حالة التوصل إلى اتفاق حولها، هل يمكن ضمان التزام الدول كافة به؟. وهنا لا بد من الإشارة إلى أن الدولة الساعية إلى حظر هذه الأنواع من الأسلحة هى الدول الصغرى ولكن ليس الهدف منها حماية المدنيين، بل كآلية لتقويض الدول الكبرى؛ حيث تمتلك ما يقارب من ٣٠ دولة أسلحة ذاتية التحرك، ولكنها تعمل تحت إشراف بشري.
ويعد الكتاب واحدًا من أهم الإصدارات التى تناقش مدى تأثير التطور التكنولوجى على مستقبل الجيوش، ومدى انعكاسه على الصراعات القادمة؛ حيث يجادل الكاتب بأن معاهدات الحد من التسلح تعمل بشكل جيد عندما تنطبق على الأسلحة العسكرية ذات تأثير محدود، ولكن من غير المرجح أن يتم عمل حظر عالمى على الأسلحة ذاتية التشغيل بسبب قيمتها العسكرية المتصورة وتطورها من قبل مجموعة واسعة من الأمم العسكرية.
ومع ذلك، يقترح الكتاب عددًا من البدائل الواقعية لمعاهدة الحظر، بما فى ذلك حظر أنظمة الأسلحة ذاتية التشغيل المضادة للأفراد، التى قد تنجح لأن هذه الأنظمة سيكون لها فائدة عسكرية منخفضة ولكن لديها إمكانية عالية لإحداث الضرر؛ مثل وضع مدونة سلوك غير ملزمة قانونيًا للمساعدة فى وضع قواعد لمراقبة الأسلحة المستقلة، فضلًا عن إرساء مبدأ عام بأن القيادة البشرية لا بد أن تكون دائمًا فى الحرب.
ويثير الكاتب عددا من القضايا الشائكة فى كتابه الصادر حديثًا؛ حيث تابع فيه التطورات والطريقة التى تتغير بها أنماط الحروب وأساليب خوضها، ومدى تأثيرها بتقدم التكنولوجيا علاوة على مناقشة بعض القضايا القانونية والأخلاقية المتعلقة بقوانين القتال المسلح، كما يقدم آراء مجموعة من الخبراء وكبار المفكرين فى هذا المجال لتسليط الضوء على أهم التحديات المحتملة للحروب المستقبلية التى سترتكز على الذكاء الاصطناعي. وفى هذا الصدد يطرح «شاري» عددا من الأسئلة التى تعبر عن قلقه تجاه المسارات المتقدمة التى تشهدها الصناعات الدفاعية، ومدى تأثيرها على مستقبل الجيوش فى المستقبل حيث تراجعت القيمة البشرية مقابل تصاعد قيمة الأسلحة المتقدمة، وعليه برزت بعض الأسئلة المتعلقة بمدى طموح الدول فى تطوير هذه الأسلحة وهل يمكن الاتفاق على حظرها؟ وفى حالة التوصل إلى اتفاق حولها، هل يمكن ضمان التزام الدول كافة به؟. وهنا لا بد من الإشارة إلى أن الدولة الساعية إلى حظر هذه الأنواع من الأسلحة هى الدول الصغرى ولكن ليس الهدف منها حماية المدنيين، بل كآلية لتقويض الدول الكبرى؛ حيث تمتلك ما يقارب من ٣٠ دولة أسلحة ذاتية التحرك، ولكنها تعمل تحت إشراف بشري.
ويعد الكتاب واحدًا من أهم الإصدارات التى تناقش مدى تأثير التطور التكنولوجى على مستقبل الجيوش، ومدى انعكاسه على الصراعات القادمة؛ حيث يجادل الكاتب بأن معاهدات الحد من التسلح تعمل بشكل جيد عندما تنطبق على الأسلحة العسكرية ذات تأثير محدود، ولكن من غير المرجح أن يتم عمل حظر عالمى على الأسلحة ذاتية التشغيل بسبب قيمتها العسكرية المتصورة وتطورها من قبل مجموعة واسعة من الأمم العسكرية.
ومع ذلك، يقترح الكتاب عددًا من البدائل الواقعية لمعاهدة الحظر، بما فى ذلك حظر أنظمة الأسلحة ذاتية التشغيل المضادة للأفراد، التى قد تنجح لأن هذه الأنظمة سيكون لها فائدة عسكرية منخفضة ولكن لديها إمكانية عالية لإحداث الضرر؛ مثل وضع مدونة سلوك غير ملزمة قانونيًا للمساعدة فى وضع قواعد لمراقبة الأسلحة المستقلة، فضلًا عن إرساء مبدأ عام بأن القيادة البشرية لا بد أن تكون دائمًا فى الحرب.
