गोल्डमैन सैक्स के मुख्य कार्यकारी, डेविड सोलोमन ने कहा है कि वह एंथ्रोपिक के मिथोस एआई मॉडल की क्षमताओं के बारे में “अति-जागरूक” हैं और साइबर सुरक्षा जोखिम के बारे में चेतावनी जारी करने के बाद तकनीकी फर्म के साथ “निकटता से” काम कर रहे हैं।
अमेरिकी बैंक खुद को हैकरों से बचाने के व्यापक प्रयासों के तहत बड़े भाषा मॉडल (एलएलएम) सहित कृत्रिम बुद्धिमत्ता में तेजी से हो रही प्रगति की निगरानी कर रहा था।
सोलोमन ने सोमवार को एक कमाई कॉल पर विश्लेषकों से कहा, “जाहिर तौर पर एलएलएम तेजी से प्रगति कर रहे हैं और हम अमेरिकी सरकार और मॉडल प्रकाशकों की मदद से इन नए मॉडलों की बढ़ी हुई क्षमताओं से बहुत परिचित हैं।”
इसमें एआई टूल्स के क्लाउड परिवार के पीछे की कंपनी एंथ्रोपिक भी शामिल थी। पिछले सप्ताह उसने दावा किया था कि उसका नवीनतम मॉडल, मिथोस, आईटी प्रणालियों में खामियों को उजागर करने की क्षमता के कारण एक अभूतपूर्व जोखिम पैदा करता है।
एंथ्रोपिक ने पिछले बुधवार को एक ब्लॉगपोस्ट में कहा, “एआई मॉडल कोडिंग क्षमता के उस स्तर पर पहुंच गए हैं, जहां वे सॉफ्टवेयर कमजोरियों को खोजने और उनका फायदा उठाने में सबसे कुशल मनुष्यों को छोड़कर सभी को पीछे छोड़ सकते हैं।” “नतीजा – अर्थव्यवस्था, सार्वजनिक सुरक्षा और राष्ट्रीय सुरक्षा के लिए – गंभीर हो सकता है।”
सोलोमन ने सोमवार को कहा: “हम मिथोस और इसकी क्षमताओं से अवगत हैं… हमारे पास मॉडल है। जहां भी संभव हो हम सीमांत क्षमताओं का उपयोग करने के लिए एंथ्रोपिक और हमारे सभी सुरक्षा विक्रेताओं के साथ मिलकर काम कर रहे हैं। और यह एक महत्वपूर्ण फोकस बना रहेगा।
“हम अपने साइबर और बुनियादी ढांचे के लचीलेपन को बढ़ाने पर बहुत ध्यान केंद्रित कर रहे हैं। और यह हमारी चल रही क्षमताओं का हिस्सा है जिसमें हम निवेश कर रहे हैं और अपने निवेश में तेजी ला रहे हैं।”
यह खबर अमेरिकी ट्रेजरी सचिव स्कॉट बेसेंट द्वारा पिछले हफ्ते माइथोस मॉडल पर चर्चा करने के लिए सोलोमन और अन्य बड़े अमेरिकी बैंकरों को वाशिंगटन बुलाने के बाद आई है।
वह बैठक तथाकथित प्रणालीगत रूप से महत्वपूर्ण बैंकों के प्रमुखों पर केंद्रित थी – जहां नियामकों का मानना है कि उनके संचालन में एक बड़ा व्यवधान, या उनके संभावित पतन से वित्तीय स्थिरता खतरे में पड़ जाएगी।
सोमवार को यूके सरकार के एआई सिक्योरिटी इंस्टीट्यूट (एआईएसआई) ने चेतावनी दी कि साइबर खतरे के मामले में माइथोस पिछले मॉडलों की तुलना में “कदम ऊपर” है।
एआईएसआई ने कहा कि माइथोस उन हमलों को अंजाम दे सकता है जिनके लिए कई कार्रवाइयों की आवश्यकता होती है और मानव हस्तक्षेप के बिना आईटी सिस्टम में कमजोरियों का पता लगाता है। इसमें कहा गया है कि इन कार्यों को पूरा करने में आम तौर पर मानव पेशेवरों को कई दिन लगेंगे। माइथोस एआईएसआई द्वारा बनाए गए साइबर हमले के 32-चरणीय सिमुलेशन को सफलतापूर्वक पूरा करने वाला पहला एआई मॉडल था, जिसने अपने 10 प्रयासों में से तीन में चुनौती को हल किया।
एआईएसआई ने कहा कि मिथोस स्वायत्त रूप से छोटी, कमजोर रूप से संरक्षित आईटी प्रणालियों पर हमला करने में सक्षम प्रतीत होता है, लेकिन यह निश्चित रूप से नहीं कह सकता कि क्या यह अच्छी तरह से संरक्षित प्रणालियों पर हमला कर सकता है क्योंकि इसके परीक्षणों में रक्षात्मक उपकरणों जैसे सुरक्षा सुविधाओं का अभाव है।
एआईएसआई ब्लॉगपोस्ट एक चेतावनी के साथ समाप्त हुआ कि भविष्य के उन्नत एआई मॉडल केवल मिथोस पर सुधार करेंगे, इसलिए “साइबर रक्षा में अब निवेश महत्वपूर्ण है”।
यूके के नियामक आने वाले हफ्तों में ब्रिटिश बैंक मालिकों और सरकारी अधिकारियों के साथ मिथोस के जोखिमों का मुद्दा उठाने वाले हैं। मुख्य कार्यकारी अधिकारियों के साथ-साथ ट्रेजरी, बैंक ऑफ इंग्लैंड, वित्तीय आचरण प्राधिकरण और राष्ट्रीय साइबर सुरक्षा केंद्र के अधिकारियों से बना क्रॉस मार्केट ऑपरेशनल रेजिलिएंस ग्रुप (सीएमओआरजी) अगले पखवाड़े के भीतर मिलने वाला है।
बैंक ऑफ इंग्लैंड, जो Cmorg के संबंध में संचार संभाल रहा है, ने टिप्पणी करने से इनकार कर दिया।
