कीव, यूक्रेन – अमेरिका-ईरान युद्ध के पहले दिन, एक टॉमहॉक क्रूज़ मिसाइल ने दक्षिणी ईरान के मिनाब में शजरेह तैयबेह प्राथमिक विद्यालय पर हमला किया। संयुक्त राष्ट्र और ईरानी अधिकारियों के अनुसार, कम से कम 168 लोग मारे गए – जिनमें से 100 से अधिक 12 वर्ष से कम उम्र के थे।
एमनेस्टी इंटरनेशनल द्वारा उपग्रह इमेजरी के विश्लेषण के अनुसार, स्कूल की इमारत लंबे समय से स्थापित इस्लामिक रिवोल्यूशनरी गार्ड कॉर्प्स नौसैनिक प्रतिष्ठान से 100 गज से भी कम दूरी पर थी और पहले 2013 और 2016 के बीच एक दीवार दिखाई देने तक आईआरजीसी परिसर परिधि के भीतर स्थित थी।
28 फरवरी को जब अमेरिका और इज़राइल ने अपना पहला हमला किया, तब तक स्कूल कई साल पहले स्थापित हो चुका था। रॉयटर्स की जांच में पता चला कि यह सोशल मीडिया पर सक्रिय था और इसकी अपनी वेबसाइट थी।
तो क्या ग़लत हुआ?
“क्या मावेन स्मार्ट सिस्टम के उपयोग सहित कृत्रिम बुद्धिमत्ता का उपयोग शाजरेह तैयबेह स्कूल को लक्ष्य के रूप में पहचानने के लिए किया गया था?” 12 मार्च को पेंटागन को लिखे एक पत्र में 120 से अधिक हाउस डेमोक्रेट्स ने पूछा, 46 सीनेट डेमोक्रेट्स द्वारा इसी तरह का अनुरोध भेजे जाने के कुछ ही दिनों बाद घातक हमले पर स्पष्टता की मांग की गई।
मेवेन स्मार्ट सिस्टम, 1.3 अरब डॉलर के पेंटागन अनुबंध के तहत डेटा एनालिटिक्स कंपनी पलान्टिर टेक्नोलॉजीज द्वारा निर्मित एक लक्ष्यीकरण और खुफिया मंच, एक ऐसी समस्या को हल करने के लिए बनाया गया था जो हाल के वर्षों में तेजी से बढ़ी है: सूचना अधिभार – कृत्रिम बुद्धिमत्ता को अपने गुप्त हथियार के रूप में।
मावेन उपग्रह इमेजरी, ड्रोन फ़ीड, रडार डेटा और सिग्नल इंटेलिजेंस को एक ही इंटरफ़ेस में फ़्यूज़ करता है, फिर लक्ष्यों को वर्गीकृत करता है, हथियार प्रणालियों की सिफारिश करता है और वास्तविक समय में स्ट्राइक पैकेज तैयार करता है, किल-चेन तर्क और निर्णय लेने को युद्ध के मैदान पर अब तक देखी गई सबसे तेज़ समयसीमा में संपीड़ित करता है।
और यह रणनीतिक महत्व के आधार पर लक्ष्यों को अर्ध-स्वायत्त रूप से रैंक करने के लिए अपने सिस्टम में एम्बेडेड एंथ्रोपिक के क्लाउड एआई मॉडल का उपयोग करता है, रास्ते में प्रत्येक हमले के लिए स्वचालित कानूनी औचित्य का मसौदा तैयार करता है।
वाशिंगटन पोस्ट के अनुसार, सॉफ्टवेयर ने ईरान अभियान के पहले 24 घंटों में सैकड़ों स्ट्राइक निर्देशांक तैयार किए, जिससे अमेरिका को युद्ध के पहले 24 घंटों में 1,000 से अधिक लक्ष्यों पर हमला करने में मदद मिली।
प्रारंभिक निष्कर्षों पर जानकारी देने वाले सूत्रों ने सीएनएन को बताया कि यूएस सेंट्रल कमांड ने रक्षा खुफिया एजेंसी द्वारा प्रदान की गई पुरानी खुफिया जानकारी का उपयोग करके लक्ष्यीकरण निर्देशांक बनाए थे, जिन्हें स्कूल की उपस्थिति को प्रतिबिंबित करने के लिए अद्यतन नहीं किया गया था, एक प्रश्न पूछताछ के केंद्र में आ गया: “यदि हां, तो क्या किसी मानव ने इस लक्ष्य की सटीकता की पुष्टि की है?” उन्होंने पूछा।
वे अभी भी आधिकारिक स्पष्टीकरण की प्रतीक्षा कर रहे हैं।
फ्रंट लाइन पर अर्ध-स्वायत्त लक्ष्यीकरण सिस्टम बनाने और तैनात करने वाले यूक्रेनी ड्रोन ऑपरेटरों ने मिलिट्री टाइम्स को बताया कि उन्होंने संभावित अपराधी को तुरंत पहचान लिया।
रूस के साथ युद्ध की अग्रिम पंक्ति पर अर्ध-स्वायत्त ड्रोन बनाने और तैनात करने वाली यूक्रेनी ड्रोन कंपनी एयरो सेंटर के निदेशक इहोर मतवियुक ने कहा कि वह कल्पना कर सकते हैं कि विफलता कैसे हुई।
हालाँकि उन्हें विशेष रूप से मिनाब हमले के बारे में कोई अंदरूनी जानकारी नहीं है, इस महीने की शुरुआत में उन्होंने कहा था कि यह लक्ष्यीकरण विफलता के लक्षण दिखाता है – एआई की खराबी नहीं।
“यह लगभग निश्चित रूप से एक हड़ताल थी।” [given] निर्देशांक,” मतवियुक ने मिलिट्री टाइम्स को बताया। “मुख्य समस्या एआई नहीं थी – यह थी कि सैन्य वस्तु स्कूल के कितने करीब थी।”
पिछले हफ्ते, पूर्व सैन्य अधिकारियों ने सेमाफोर से बात करते हुए मतवियुक के शुरुआती मूल्यांकन की पुष्टि की: स्कूल की हड़ताल के लिए “मानव – एआई नहीं – दोषी हैं”, उन्होंने पेंटागन के मावेन लक्ष्यीकरण प्लेटफ़ॉर्म पर खिलाए गए पुराने मानव-क्यूरेटेड डेटा की ओर इशारा करते हुए कहा।
मतवियुक ने पैटर्न को पहचान लिया क्योंकि उसे बार-बार यह तय करना पड़ता था कि अपने स्वयं के अर्ध-स्वायत्त हथियार प्रणालियों में कितना एआई का उपयोग करना है क्योंकि ड्रोन युद्ध और सॉफ्टवेयर क्षमताएं यूक्रेन के युद्धक्षेत्र में तेजी से विकसित हुई हैं।
मतवियुक ने कहा, “स्वचालित लक्ष्यीकरण हमें आधे से कम लक्ष्यों पर कब्जा करने की अनुमति देता है, अधिक नहीं।” “क्योंकि वे सभी अभी भी छिपे हुए हैं।”
रक्षा विभाग का अपना डेटा यह बताता है। मावेन कुल मिलाकर लगभग 60% सटीकता पर वस्तुओं की सही पहचान कर सकता है – जबकि मानव विश्लेषकों के लिए यह 84% है।
लेकिन 2024 ब्लूमबर्ग रिपोर्ट में प्रकाशित पेंटागन के आंकड़ों के अनुसार, खराब मौसम या खराब दृश्यता जैसी प्रतिकूल परिस्थितियों में यह दर 30% से नीचे गिर जाती है।
“संपार्श्विक क्षति” का जोखिम, क्योंकि मिनब स्कूल पर हमले को सैन्य शब्दावली में वर्गीकृत किया जा सकता है, बहुत अधिक है – यही कारण है कि एयरो सेंटर और मिलिट्री टाइम्स से बात करने वाली हर दूसरी यूक्रेनी ड्रोन कंपनी का कहना है कि वे हमेशा अंतिम हमले का निर्णय मानव ऑपरेटर पर छोड़ते हैं।
“सीधा प्रभाव हमेशा ऑपरेटर के आदेश द्वारा किया जाता है,” मतवियुक ने कहा, “नागरिकों को हमले से बचाने के लिए।”
2021 में, एआई को लक्षित करने वाली एक प्रयोगात्मक अमेरिकी वायु सेना ने अपने स्वयं के आत्मविश्वास को 90% रेटिंग देने के बावजूद वास्तविक परिस्थितियों में लगभग 25% सटीकता हासिल की, तत्कालीन मेजर। खुफिया, निगरानी और टोही के लिए वायु सेना के सहायक उप प्रमुख जनरल डैनियल सिम्पसन ने डिफेंस वन को बताया।
सिम्पसन ने कार्यक्रम की समस्याओं का सारांश देते हुए कहा, “यह निश्चित रूप से गलत था।” “और यह एल्गोरिथम की गलती नहीं है।” ऐसा इसलिए है क्योंकि हमने इसे गलत प्रशिक्षण डेटा दिया है।”
स्थिति में सुधार की उम्मीद नहीं है. पोलिटिको की रिपोर्ट के अनुसार, पिछले महीने, हेगसेथ ने सिविलियन प्रोटेक्शन सेंटर ऑफ एक्सीलेंस के कार्यबल में लगभग 90% की कटौती की और CENTCOM की नागरिक हताहत मूल्यांकन टीम को 10 से घटाकर एक कर दिया।
फिर, सेना में एआई के सबसे बड़े विस्तार की निगरानी के लिए एक कंकाल कर्मचारी को छोड़ने के बाद, रक्षा उप सचिव स्टीव फीनबर्ग ने इस महीने की शुरुआत में सैन्य निर्णय लेने में एआई की भूमिका को औपचारिक रूप देने के लिए एक ज्ञापन पर हस्ताक्षर किए – मेवेन को रिकॉर्ड का एक आधिकारिक कार्यक्रम नामित किया और सितंबर तक सभी अमेरिकी सैन्य शाखाओं में इसे अपनाने पर जोर दिया, रॉयटर्स ने शुक्रवार को रिपोर्ट दी।
मतवियुक जैसे यूक्रेनी हथियार निर्माता एआई को अधिक स्वायत्तता देने से नहीं कतरा रहे हैं, लेकिन वे इसका रणनीतिक उपयोग कर रहे हैं।
उन्होंने कहा, स्वायत्त लक्ष्यीकरण “बड़े पैमाने पर आक्रामक अभियानों के लिए प्रभावी है, जहां लक्ष्य छिपे नहीं होते हैं”, एक विवरण जो ईरान के निश्चित सैन्य प्रतिष्ठानों में फिट हो सकता है, जो यूक्रेनी मोर्चे पर अधिकांश पदों की तुलना में बहुत कम छिपे हुए हैं।
मतवियुक ने कहा, “हम ड्रोन ऑपरेटर की नौकरी में मानव तत्व का कम से कम उपयोग करने के विचार का समर्थन करते हैं।” “स्वायत्तता, ड्रोन के स्वायत्त तत्व – यही वह चीज़ है जिस पर हम काम कर रहे हैं।”
उनके विचार में, समस्या यह नहीं थी कि पेंटागन ने एआई का उपयोग किया था। ऐसा था कि लक्ष्य के पीछे का डेटा अपडेट नहीं किया गया था क्योंकि लड़कियों के स्कूल ने समान निर्देशांक पर एक सैन्य मुख्यालय की जगह ले ली थी – और जिन लोगों का काम यह सत्यापित करना था कि डेटा पहले ही श्रृंखला से काट दिया गया था।
मतवियुक ने जोर देकर कहा कि एआई सिस्टम केवल उतने ही विश्वसनीय हैं, जितने लोग उन्हें बनाते हैं, खिलाते हैं और उनकी देखरेख करते हैं।
जब मानव लिंक विफल हो जाता है, चाहे खराब डेटा के कारण, ख़राब निरीक्षण या संपीड़ित समयसीमा के कारण – मशीन त्रुटि को सटीकता के साथ निष्पादित करना जारी रखेगी।
CENTCOM के पूर्व खुफिया निदेशक, लेफ्टिनेंट जनरल करेन गिब्सन, पिछले हफ्ते सेंटर फॉर स्ट्रैटेजिक एंड इंटरनेशनल स्टडीज पैनल में हथियार स्वायत्तता की परवाह किए बिना घातक हमलों के लिए जवाबदेही कहां निहित है, इस बारे में स्पष्ट थे।
उन्होंने कहा, ”मैं हमेशा मानवीय जिम्मेदारी और जवाबदेही के मूल सिद्धांत पर वापस आऊंगी।” “कहीं न कहीं एक कमांडर को अंततः जिम्मेदार ठहराया जाएगा – कोई मशीन या सॉफ्टवेयर इंजीनियर नहीं।”
