जैसे ही अमेरिकी सेना ईरान में हवाई हमलों के लिए लक्ष्यों को इंगित करने के लिए एआई उपकरणों के अपने उपयोग का विस्तार कर रही है, कांग्रेस के सदस्य युद्ध में प्रौद्योगिकी के उपयोग की रेलिंग और अधिक निगरानी की मांग कर रहे हैं।
मामले की जानकारी रखने वाले दो लोगों, जिन्होंने संवेदनशील मामलों पर चर्चा करने के लिए नाम न छापने का अनुरोध किया, ने पुष्टि की कि सेना चल रहे हमलों में संभावित लक्ष्यों की पहचान करने के लिए डेटा एनालिटिक्स कंपनी पलान्टिर से एआई सिस्टम का उपयोग कर रही है। पलान्टिर के सॉफ़्टवेयर का उपयोग, जो आंशिक रूप से एंथ्रोपिक के क्लाउड एआई सिस्टम पर निर्भर करता है, तब आता है जब रक्षा सचिव पीट हेगसेथ का लक्ष्य कृत्रिम बुद्धिमत्ता को अमेरिका के युद्ध अभियानों के केंद्र में रखना है – और चूंकि वह एआई के उपयोग की सीमाओं को लेकर एंथ्रोपिक नेतृत्व के साथ भिड़ गए हैं।
फिर भी, चूंकि एआई युद्ध के मैदान में एक व्यापक भूमिका निभाता है, कानून निर्माता इसके उपयोग को नियंत्रित करने वाली सुरक्षा पर अधिक ध्यान देने की मांग कर रहे हैं और प्रौद्योगिकी को कितना नियंत्रण सौंपा गया है, इसके बारे में पारदर्शिता बढ़ानी चाहिए।
“हमें यह निर्धारित करने के लिए एक पूर्ण, निष्पक्ष समीक्षा की आवश्यकता है कि क्या एआई ने पहले ही ईरान के साथ युद्ध में लोगों को नुकसान पहुंचाया है या खतरे में डाला है,” प्रतिनिधि जिल टोकुडा, डी-हवाई, हाउस सशस्त्र सेवा समिति के सदस्य ने सैन्य संदर्भों में एआई के उपयोग और विश्वसनीयता के बारे में सवालों के जवाब में एनबीसी न्यूज को बताया। “मानव निर्णय जीवन-या-मृत्यु निर्णयों के केंद्र में रहना चाहिए।”
रक्षा विभाग और ओपनएआई और एंथ्रोपिक जैसी प्रमुख एआई कंपनियों ने सार्वजनिक रूप से कहा है कि वर्तमान एआई सिस्टम मानव साइनऑफ के बिना मारने में सक्षम नहीं होना चाहिए। लेकिन चिंता यह बनी हुई है कि अपने संचालन या निर्णय लेने के कुछ हिस्सों के लिए एआई पर निर्भर रहने से सैन्य अभियानों में गलतियाँ हो सकती हैं।
पेंटागन के मुख्य प्रवक्ता सीन पार्नेल ने 26 फरवरी को एक्स पर एक पोस्ट में कहा कि सेना “मानवीय भागीदारी के बिना संचालित होने वाले स्वायत्त हथियार विकसित करने के लिए एआई का उपयोग नहीं करना चाहती।”
रक्षा विभाग ने इस सवाल का जवाब नहीं दिया कि विश्लेषण और लक्ष्यीकरण सुझावों की पुष्टि करते समय सेना मानव कार्यभार को कम करने के लिए एआई के उपयोग को कैसे संतुलित करती है।
एनबीसी न्यूज से बात करने वाले कानूनविदों और स्वतंत्र विशेषज्ञों ने सेना द्वारा ऐसे उपकरणों के उपयोग पर चिंता जताई, और यह सुनिश्चित करने के लिए स्पष्ट सुरक्षा उपायों की मांग की कि मनुष्य युद्ध के मैदान पर जीवन-या-मृत्यु के निर्णयों में शामिल रहें।
हाउस सशस्त्र सेवा समिति के सदस्य, डी-कैलिफ़ोर्निया, प्रतिनिधि सारा जैकब्स ने कहा, “एआई उपकरण 100% विश्वसनीय नहीं हैं – वे सूक्ष्म तरीकों से विफल हो सकते हैं और फिर भी ऑपरेटर उन पर अधिक भरोसा करते हैं।”
उन्होंने कहा, “हमारी जिम्मेदारी है कि हम सेना द्वारा एआई के उपयोग पर सख्त नियंत्रण लागू करें और यह गारंटी दें कि घातक बल का उपयोग करने के हर निर्णय में एक इंसान शामिल हो, क्योंकि गलत होने की कीमत नागरिकों और इन मिशनों को पूरा करने वाले सेवा सदस्यों के लिए विनाशकारी हो सकती है।”
एंथ्रोपिक का क्लाउड पलान्टिर के मावेन खुफिया विश्लेषण कार्यक्रम का एक महत्वपूर्ण घटक बन गया है, जिसका उपयोग वेनेजुएला के राष्ट्रपति निकोलस को पकड़ने के लिए अमेरिकी ऑपरेशन में भी किया गया था। मादुरो. हाल की सैन्य कार्रवाइयों में क्लाउड की भूमिका की खबर सबसे पहले द वॉल स्ट्रीट जर्नल और द वाशिंगटन पोस्ट ने दी थी।
लेकिन कंपनी द्वारा घरेलू निगरानी और स्वायत्त घातक हथियारों के लिए अपने एआई का उपयोग करने से सेना को रोकने की मांग के बाद हेगसेथ के साथ एंथ्रोपिक के टकराव से यह भूमिका जटिल हो गई है। पिछले हफ्ते, रक्षा विभाग ने एंथ्रोपिक को राष्ट्रीय सुरक्षा के लिए खतरा करार दिया, एक ऐसा कदम जो आने वाले महीनों में इसे सैन्य उपयोग से हटाने की धमकी देता है। एन्थ्रोपिक ने उस पदनाम से लड़ने के लिए मुकदमा दायर किया।
एन्थ्रोपिक ने टिप्पणी करने से इनकार कर दिया। पलान्टिर ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
बुधवार को एक्स पर पोस्ट किए गए एक वीडियो में, यूएस सेंट्रल कमांड के नेता, एडम ब्रैड कूपर ने स्वीकार किया कि ईरान में लक्ष्य चुनने में अमेरिका की मदद करने में एआई एक महत्वपूर्ण उपकरण बन गया है।
“हमारे योद्धा विभिन्न प्रकार के उन्नत एआई उपकरणों का लाभ उठा रहे हैं। ये प्रणालियाँ हमें बड़ी मात्रा में डेटा को सेकंडों में छानने में मदद करती हैं ताकि हमारे नेता शोर को कम कर सकें और दुश्मन की प्रतिक्रिया की तुलना में तेजी से बेहतर निर्णय ले सकें, ”उन्होंने कहा।
“मनुष्य हमेशा अंतिम निर्णय लेगा कि क्या शूट करना है और क्या नहीं और कब शूट करना है, लेकिन उन्नत एआई उपकरण घंटों और कभी-कभी दिनों तक की प्रक्रियाओं को सेकंड में बदल सकते हैं।”
ट्रम्प प्रशासन ने सार्वजनिक रूप से सेना और पूरी सरकार दोनों के लिए प्रौद्योगिकी का उपयोग करना स्वीकार कर लिया है।
प्रतिनिधि पैट हैरिगन, आर.एन.सी. ने कहा कि ईरान सहित सैन्य खुफिया जानकारी को तेजी से संसाधित करने के लिए एआई पहले से ही महत्वपूर्ण हो गया है।
“एआई एक उपकरण है जो हमारे युद्ध सेनानियों को भारी मात्रा में डेटा को किसी भी इंसान की तुलना में तेजी से संसाधित करने में मदद करता है, और हमने ऑपरेशन एपिक फ्यूरी में जो देखा, उल्लेखनीय सटीकता के साथ 2,000 से अधिक लक्ष्यों पर हमला किया, वह इस बात का प्रमाण है कि इन क्षमताओं का उपयोग जिम्मेदारी से और प्रभावी ढंग से कैसे किया जा सकता है,” हैरिगन, जो हाउस आर्म्ड सर्विसेज कमेटी में भी कार्यरत हैं, ने एनबीसी न्यूज को एक बयान में बताया।
“लेकिन कोई भी एआई प्रणाली अमेरिकी योद्धा के निर्णय, प्रशिक्षण और अनुभव की जगह नहीं ले सकती।” उन्होंने कहा, ”लूप में मानव को शामिल करना कोई औपचारिकता नहीं है, यह एक आवश्यकता है और हमारी सेना जिस तरह से काम करती है उसमें कुछ भी अन्यथा संकेत नहीं देता है।”
जबकि एनबीसी न्यूज द्वारा संपर्क किए गए किसी भी सांसद ने यह नहीं कहा कि एआई को सैन्य उपयोग से पूरी तरह से हटा दिया जाना चाहिए, कुछ ने कहा कि अधिक निगरानी की आवश्यकता है।
सीनेट सशस्त्र सेवा समिति के सदस्य, सीनेटर एलिसा स्लोटकिन, डी-मिच, ने कहा कि रक्षा विभाग ने यह स्पष्ट करने के लिए पर्याप्त प्रयास नहीं किया है कि मनुष्य एआई-सहायता प्राप्त या उत्पन्न सैन्य खुफिया जानकारी की कितनी अच्छी तरह जांच कर रहे हैं।
उन्होंने कहा, “यह वास्तव में मनुष्यों पर निर्भर है, और इस मामले में रक्षा सचिव पर, यह सुनिश्चित करना है कि निकट भविष्य के लिए मानव अतिरेक है, और यही वह है जिस पर हमें भरोसा नहीं है।”
सीनेट इंटेलिजेंस कमेटी के शीर्ष डेमोक्रेट सीनेटर मार्क वार्नर, डी-वा., ने कहा कि वह लक्ष्यों की पहचान करने में सहायता के लिए सेना द्वारा एआई के उपयोग के बारे में चिंतित हैं और नई तकनीक का उपयोग कैसे किया जा रहा है, इसके बारे में अनुत्तरित प्रश्न हैं। उन्होंने एनबीसी न्यूज को बताया, “इस पर ध्यान देना होगा।”
ओपनएआई और एंथ्रोपिक, दोनों ने अमेरिकी सेना के साथ काम किया है, ने कहा है कि उनके सबसे उन्नत सिस्टम भी त्रुटि प्रवण हैं, और दुनिया के शीर्ष एआई शोधकर्ता स्वीकार करते हैं कि वे पूरी तरह से नहीं समझते हैं कि अग्रणी एआई सिस्टम कैसे काम करते हैं।
पिछले महीने एनबीसी के साथ एक साक्षात्कार में, एंथ्रोपिक सीईओ डेरियो अमोदेई ने कहा: “मैं आपको यह नहीं बता सकता कि 100% संभावना है कि हमारे द्वारा बनाए गए सिस्टम भी पूरी तरह से विश्वसनीय हैं।”
सितंबर में प्रकाशित एक प्रमुख ओपनएआई अध्ययन में पाया गया कि सभी प्रमुख एआई चैटबॉट, जो बड़े भाषा मॉडल नामक सिस्टम पर भरोसा करते हैं, “मतिभ्रम” करते हैं या समय-समय पर उत्तर गढ़ते हैं।
सेन कर्स्टन गिलिब्रांड, डीएन.वाई. ने सेना एआई का उपयोग कैसे कर सकती है, इस पर स्पष्ट नियमों का आह्वान किया।
उन्होंने एनबीसी न्यूज़ को बताया, “ट्रम्प प्रशासन ने पहले ही साबित कर दिया है कि वह एक अलोकप्रिय युद्ध के लिए अमेरिकी कानून को तोड़ने के लिए तैयार है।” “यह भरोसा करने का कोई कारण नहीं है कि डीओडी स्पष्ट सुरक्षा उपायों के बिना एआई के उपयोग के लिए और अधिक जिम्मेदार होगा।”
वाशिंगटन डीसी थिंक टैंक एआई पॉलिसी नेटवर्क में सरकारी मामलों के प्रमुख और 2018 से 2020 तक पेंटागन में एआई रणनीति और नीति के निदेशक मार्क बील ने कहा कि हालांकि एआई यह तय करने की प्रक्रिया को सुव्यवस्थित कर सकता है कि कहां हमला करना है, लेकिन यह स्पष्ट है कि मनुष्यों को अभी भी लक्ष्यों की पूरी तरह से जांच करने की आवश्यकता है।
“ट्रिगर खिंचने से पहले बहुत सारे कदम उठाने पड़ते हैं। उन्होंने कहा, ”मौजूदा वर्कफ़्लो में तेजी लाने और कमांडरों और विश्लेषकों और योजनाकारों को बेहतर और तेज़ निर्णय लेने की क्षमता प्रदान करने के लिए एआई सिस्टम को बहुत प्रभावी ढंग से तैनात किया जा रहा है।” “लेकिन जब वास्तव में हथियार प्रणालियों को तैनात करने की बात आती है, तो यह तकनीक अभी तक तैयार नहीं है।”
बील ने कहा, “ये सिस्टम वास्तव में बहुत अच्छे हो जाएंगे, और जैसे-जैसे अन्य प्रतिद्वंद्वी इनका उपयोग करना शुरू करेंगे, उपयोगी और प्रभावी गति से काम करने के लिए एआई आउटपुट की समीक्षा को छोटा करने का अधिक दबाव होगा।” “वहां पहुंचने से पहले हमें यह पता लगाना होगा कि इस विश्वसनीयता समस्या को कैसे हल किया जाए।” इससे कोई फर्क नहीं पड़ता कि आप घातक स्वायत्त हथियारों के बारे में क्या सोचते हैं, उन्हें सुरक्षित और प्रभावी बनाना पूरी दुनिया के हित में है।”
प्रौद्योगिकी के नैतिक उपयोग की वकालत करने वाली एक गैर-लाभकारी संस्था एआई नाउ इंस्टीट्यूट की मुख्य वैज्ञानिक हेदी खलाफ ने कहा कि उन्हें चिंता है कि जीवन-या-मृत्यु निर्णयों के लिए सूचनाओं को तेजी से संसाधित करने के लिए एआई पर निर्भरता सेनाओं के लिए गलतियों के लिए जवाबदेही से बचने का एक तरीका हो सकता है।
खलाफ ने कहा, “यह बहुत खतरनाक है कि ‘स्पीड’ को किसी तरह यहां रणनीतिक के रूप में बेचा जा रहा है, जबकि यह वास्तव में अंधाधुंध लक्ष्यीकरण के लिए एक आड़ है, जब आप विचार करते हैं कि ये मॉडल कितने गलत हैं।”
