الأسلحة ذاتية التشغيل تختار أهدافًا وتستخدم القوة بعد تفعيلها دون تدخل بشري إضافي في اختيار الهدف المحدد وتوقيت الاشتباك. وهذا يختلف عن برنامج يقترح معلومات على إنسان، أو مسيّرة يقودها شخص عن بُعد. من هذا التمييز يبدأ فهم السؤال الذي تطرحه نهاية حلقة «السيف»: ماذا يحدث للمسؤولية حين تتسع المسافة بين القرار وأثره؟
ما المقصود بالأسلحة ذاتية التشغيل؟
تعتمد اللجنة الدولية للصليب الأحمر تعريفًا يركز على وظيفتي اختيار الهدف واستخدام القوة. ليست كل آلة آلية سلاحًا مستقلًا بهذا المعنى؛ قد تنفذ الملاحة تلقائيًا بينما يبقى قرار الاشتباك عند الإنسان.
وبالمثل، لا تتطلب كل منظومة ذاتية التشغيل تعلمًا آليًا. بعض الأنظمة يعمل بقواعد محددة، فيما قد تستخدم منظومات أخرى نماذج أكثر تعقيدًا. لذلك لا تكفي عبارة «يستخدم الذكاء الاصطناعي» لتحديد طريقة اتخاذ القرار.
نظم دعم القرار ليست الشيء نفسه
تحلل نظم دعم القرار بيانات وتعرض تقديرات أو توصيات. يبقى الفرق مهمًا بينها وبين سلاح يبدأ استخدام القوة بنفسه. لكن بقاء زر الموافقة عند الإنسان لا يضمن وحده مراجعة حقيقية.
تحذر اللجنة من الانحياز إلى الأتمتة: قد يثق المستخدم بالمخرجات أكثر مما تسمح به جودة البيانات أو ظروف العمل. وعندما تُقبل التوصيات سريعًا وبأعداد كبيرة، يمكن أن تتسع آثار الخطأ بدل أن يختفي.
ماذا يعني الحفاظ على الحكم البشري؟
يتطلب الحكم البشري فهم حدود الأداة، وإمكان الاعتراض على مخرجاتها، ووقتًا ومعلومات كافيين للمراجعة. وتوصي اللجنة باختبارات وتقييمات مناسبة، وبيانات موثوقة وتدريب المستخدمين ومراجعة النتائج.
لا يمكن اختزال التمييز والسياق وتقييم الضرر في رقم دقة واحد. فالنسبة المختبرية لا تجيب وحدها عن أسئلة حالة واقعية متغيرة، ولا تجعل توصية النظام حكمًا قانونيًا مستقلًا.
كيف يتصل ذلك بخاتمة حلقة السيف؟
تقارن الحلقة الاشتباك القريب بالقتل من مسافة ثم بمعالجة الأهداف بواسطة الأنظمة. هذه مقارنة أخلاقية ضمن سرد البرنامج؛ لا تثبت أن كل سلاح بعيد أكثر ظلمًا، أو أن السلاح القريب عادل بطبيعته.
وتورد الحلقة مثال «لافندر» وأرقامًا من تحقيق صحفي ضمن مصادرها. يجب إبقاء الادعاءات منسوبة إلى التحقيق، وعدم تحويلها إلى مواصفات تقنية مستقلة أو الخلط بينها وبين تعريف عام لكل الأسلحة ذاتية التشغيل. تركز هذه الصفحة على الفروق المفاهيمية والحكم البشري، وتحتاج الأرقام الخاصة ببرنامج معين إلى قراءة التحقيق وأدلته ورد الجهة المعنية؛ ولا يمكن تعميمها على كل نظم اختيار الأهداف.
أسئلة تساعد على قراءة أي ادعاء تقني
اسأل: هل تصنف الأداة البيانات أم تختار الهدف أم تنفذ الاشتباك؟ ما الذي يراجعه الإنسان فعلًا؟ ومن وصف عمل النظام، وبأي دليل؟ هذه الأسئلة تميز وظيفة المنظومة عن الإعلان عنها.
راجع المصادر المؤسسية أدناه، ثم شاهد مقطع الحلقة لفهم حجتها في سياقها. وتعرض الصفحة موقف اللجنة وتوصياتها بوصفهما موقفًا موثقًا، دون الادعاء بأن كل توصية أصبحت قانونًا دوليًا نافذًا.