सैन्य क्षेत्र में कृत्रिम बुद्धिमत्ता कई जोखिम पैदा करती है, जो संभावित रूप से पीड़ित नागरिकों के लिए हानिकारक हैं। पर्याप्त नियामक ढाँचे के अभाव में यह और भी सच है। इतालवी शांति और निरस्त्रीकरण नेटवर्क के समन्वयक फ्रांचेस्को विग्नार्का ने वाटिकन मीडिया को बताया, "घातक स्वायत्त हथियार प्रणालियों के विकास के साथ, निर्णय लेने में मानव नियंत्रण की अंतिम बाधा धीरे-धीरे कम होती जा रही है।"
कृत्रिम बुद्धिमत्ता (एआई) का विकास अपने साथ नए अवसर तो लाता है, लेकिन साथ ही कई जोखिम भी लाता है। सैन्य क्षेत्र में, जहाँ एआई एक व्यापक वास्तविकता बनता जा रहा है, जोखिम व्यापक रूप से व्याप्त दिखाई देते हैं और युद्ध के और भी भयावह अमानवीयकरण की ओर ले जाते हैं।
सार्थक मानवीय नियंत्रण
निर्णय लेने में मानवीय निर्णय—एकमात्र ऐसा निर्णय जिसका नैतिक और नैतिक मूल्य हो सकता है, मशीन के विपरीत—धीरे-धीरे संकुचित होता जा रहा है। इस क्षेत्र के विशेषज्ञ और इतालवी शांति एवं निरस्त्रीकरण नेटवर्क के समन्वयक, फ्रांचेस्को विग्नार्का ने वाटिकन मीडिया से बातचीत में पुष्टि की, "हाल के वर्षों में, ड्रोन के उपयोग के साथ, एक ऐसा कदम उठाया गया है जिसने तथाकथित युद्ध को महत्वपूर्ण रूप से बदल दिया है।" ये मानवरहित वाहन हैं, जो हवाई और धीरे-धीरे ज़मीनी और समुद्री दोनों तरह के हैं, हालाँकि दूर से ही सही, इन पर कुछ हद तक मानवीय नियंत्रण बना हुआ है। विग्नार्का चेतावनी देते हैं, "हालाँकि सबसे नवीन एआई-आधारित हथियार प्रणालियों के साथ, हम पूर्ण स्वायत्तता और पूर्ण अमानवीयकरण के और करीब पहुँच रहे हैं," यह समझाते हुए कि हम अभी तक "हत्यारे रोबोट" तक नहीं पहुँचे हैं, लेकिन घातक स्वायत्त हथियारों (एलएडब्ल्यूएस) के साथ, हम तेज़ी से प्रणालियों के एक खतरनाक स्वचालन की ओर बढ़ रहे हैं जिसमें "मानव नियंत्रण की अंतिम बाधा धीरे-धीरे कम होती जा रही है।"
परमधर्मपीठ का रुख
परमधर्मपीठ इन तकनीकी विकासों के नैतिक निहितार्थों के प्रति अत्यंत सजग है। संत पापा फ्राँसिस ने जून 2024 में इटली, पुलिया में जी7 नेताओं को दिए अपने संबोधन में स्पष्ट रूप से कहा था, "किसी भी मशीन को कभी भी किसी इंसान की जान लेने का विकल्प नहीं चुनना चाहिए।" और संत पापा लियो 14वें की शिक्षाओं में एआई के जोखिमों और अवसरों पर ध्यान स्पष्ट रूप से दिखाई देता है। सैन्य क्षेत्र में एआई का अनुप्रयोग - जैसा कि संयुक्त राष्ट्र में परमधर्मपीठ के स्थायी पर्यवेक्षक, महाधर्माधअयक्ष गाब्रिएल काच्चा ने हाल के दिनों में कहा था - "अनिश्चितता का एक अभूतपूर्व स्तर" उत्पन्न करता है और "एक गंभीर चुनौती प्रस्तुत करता है जिसके लिए पूरे अंतर्राष्ट्रीय समुदाय की नैतिक जागरूकता को जागृत करना आवश्यक है" क्योंकि ये हथियार "बिना किसी मानवीय नियंत्रण के" संचालित होते हैं और इसलिए "हर कानूनी, सुरक्षा, मानवीय और सबसे बढ़कर, नैतिक सीमा को पार कर जाते हैं।"
ठोस अनुप्रयोग
एआई और स्वायत्त हथियार प्रणालियाँ युद्ध में पहले से ही एक नई वास्तविकता हैं। ठोस उदाहरण विशेष रूप से गाजा की नाटकीय स्थिति से मिलते हैं, जहाँ कई अध्ययनों ने इज़राइल द्वारा हबसोरा और लैवेंडर जैसी परिष्कृत प्रणालियों के उपयोग का वर्णन किया है। विग्नार्का बताते हैं, "ये एआई-संचालित लक्ष्यीकरण प्रणालियाँ हैं, जो यह निर्धारित करती हैं कि कौन सी इमारत हमले का लक्ष्य हो सकती है और कौन सा व्यक्ति लक्ष्य पर है, अर्थात, वे पहचान करती हैं कि कौन सा लड़ाका हमले के योग्य माना जाता है।" हम अभी भी लक्ष्य पहचान प्रणालियों के दायरे में हैं जो स्वयं फायर नहीं करतीं। "समस्या यह है कि मानव संचालक, जो अत्यधिक तेज़ गति से, शायद हर 30 सेकंड में, प्राप्त हो रहे लक्ष्य संकेत को देखता है, अंततः इसका आदी हो जाता है और हमेशा हाँ कह देता है क्योंकि वह एआई पर भरोसा करता है। इसलिए यह मानवीय नियंत्रण जो बना रहता है, अंततः सार्थक नहीं रह जाता।"
ज़िम्मेदारी का मुद्दा
एक और उदाहरण अर्ध-स्वायत्त हथियार प्रणालियाँ हैं, जैसे कि घूमने वाले हथियार, जिनका इस्तेमाल, उदाहरण के लिए, यूक्रेन में संघर्ष में किया गया था। विश्लेषक कहते हैं, "यहाँ भी, मानवीय नियंत्रण की सीमा स्पष्ट रूप से कम हो गई है।" और विचारणीय बिंदु प्रस्तुत करते हुए कहते हैं: "पहले, जब ज़मीन पर लोगों या उपकरणों को तैनात करना ज़रूरी होता था—तथाकथित 'ज़मीनी सैनिकों' पर बहस देखें—तो मोर्चे पर भेजे गए लोगों के खो जाने का डर रहता था, लेकिन इन लगातार कम होते मानव-नियंत्रित हथियार प्रणालियों के साथ, सीमा कम हो गई है और हस्तक्षेप के बारे में निर्णय लेना आसान हो गया है क्योंकि ज़्यादा से ज़्यादा एक ड्रोन या एक हथियार ही खो जाता है।" और यह सब इस बात पर ध्यान नहीं देता कि दूसरी तरफ़ हमेशा मानवीय लक्ष्य होते हैं, पीड़ित जिनके अंतर्राष्ट्रीय कानून द्वारा अपर्याप्त रूप से संरक्षित होने का जोखिम होता है।
श्री विग्नार्का ने अपनी बातों को अंत करते हुए कहा, "हथियार प्रणालियों से परे, नियामक स्तर पर यह परिभाषित किया जाना आवश्यक है कि महत्वपूर्ण मानवीय हस्तक्षेप क्या है, अर्थात, किसी भी हथियार प्रणाली में किस प्रकार का नियंत्रण होना चाहिए - चाहे वह एआई हो, ड्रोन हो, या कोई घूमने वाला गोला-बारूद हो। अर्थात, इसे किस हद तक एक तकनीकी और स्वचालित प्रणाली को सौंपा जा सकता है, और स्थिति को समझने और जिम्मेदारी सौंपने के लिए किस हद तक महत्वपूर्ण मानवीय नियंत्रण मौजूद होना चाहिए," चाहे वह सैन्य कमान श्रृंखला, राष्ट्रीय राज्य या हथियार निर्माण कंपनी के भीतर हो।
