“मुझे लगता है कि हमें वास्तव में ऐसा होने में काफी समय लगेगा, ठीक है, यह समस्या हल हो गई है,” वह कहते हैं। “जब तक आप वास्तव में सिस्टम पर भरोसा नहीं कर सकते, आप निश्चित रूप से प्रतिबंध लगाना चाहेंगे।” पचॉकी का मानना है कि बहुत शक्तिशाली मॉडलों को सैंडबॉक्स में तैनात किया जाना चाहिए, किसी भी चीज़ से अलग किया जाना चाहिए जो वे तोड़ सकते हैं या नुकसान पहुंचाने के लिए उपयोग कर सकते हैं।
नए साइबर हमलों के लिए एआई टूल का उपयोग पहले ही किया जा चुका है। कुछ लोगों को चिंता है कि उनका उपयोग सिंथेटिक रोगजनकों को डिजाइन करने के लिए किया जाएगा जिनका उपयोग जैव हथियार के रूप में किया जा सकता है। आप यहां दुष्ट-वैज्ञानिकों को डराने वाली कितनी भी कहानियां डाल सकते हैं। पचॉकी कहते हैं, “मुझे निश्चित रूप से लगता है कि ऐसे चिंताजनक परिदृश्य हैं जिनकी हम कल्पना कर सकते हैं।”
“यह बहुत अजीब बात होने वाली है।” पचॉकी कहते हैं, ”यह बेहद संकेंद्रित शक्ति है जो कुछ मायनों में अभूतपूर्व है।” कल्पना कीजिए कि आप एक ऐसी दुनिया में पहुंच गए हैं जहां आपके पास एक डेटा सेंटर है जो वह सभी काम कर सकता है जो OpenAI या Google कर सकता है। जिन चीज़ों के लिए अतीत में बड़े मानव संगठनों की आवश्यकता होती थी, वे अब कुछ लोगों द्वारा की जाएंगी।”
उन्होंने आगे कहा, “मुझे लगता है कि सरकारों के लिए इसका पता लगाना एक बड़ी चुनौती है।”
और फिर भी कुछ लोग कहेंगे कि सरकारें समस्या का हिस्सा हैं। उदाहरण के लिए, अमेरिकी सरकार युद्ध के मैदान में एआई का उपयोग करना चाहती है। एंथ्रोपिक और पेंटागन के बीच हालिया टकराव से पता चला कि समाज में इस बात पर बहुत कम सहमति है कि इस तकनीक का उपयोग कैसे किया जाना चाहिए और कैसे नहीं किया जाना चाहिए – यह तो छोड़ ही दें कि उन्हें कौन खींचना चाहिए। उस विवाद के तत्काल बाद, ओपनएआई ने अपने प्रतिद्वंद्वी के बजाय पेंटागन के साथ एक समझौते पर हस्ताक्षर करने के लिए कदम उठाया। स्थिति अस्पष्ट बनी हुई है।
इस पर मैंने पचोकी को धक्का दे दिया. क्या वह वास्तव में इसका पता लगाने के लिए अन्य लोगों पर भरोसा करता है या क्या वह भविष्य के प्रमुख वास्तुकार के रूप में व्यक्तिगत जिम्मेदारी महसूस करता है? वह कहते हैं, ”मैं व्यक्तिगत ज़िम्मेदारी महसूस करता हूं।” “लेकिन मुझे नहीं लगता कि इसे केवल OpenAI द्वारा, अपनी तकनीक को एक विशेष तरीके से आगे बढ़ाकर या अपने उत्पादों को एक विशेष तरीके से डिजाइन करके हल किया जा सकता है। हमें निश्चित रूप से नीति निर्माताओं से बहुत अधिक भागीदारी की आवश्यकता होगी।”
वह हमें कहां छोड़ता है? क्या हम वास्तव में एआई पचॉकी की कल्पना की राह पर हैं? जब मैंने एलन इंस्टीट्यूट के डाउनी से पूछा तो वह हंस पड़े। वह कहते हैं, ”मैं इस क्षेत्र में कुछ दशकों से हूं और अब मुझे अपनी भविष्यवाणियों पर भरोसा नहीं है कि कुछ क्षमताएं कितनी निकट या दूर हैं।”
ओपनएआई का घोषित मिशन यह सुनिश्चित करना है कि कृत्रिम सामान्य बुद्धिमत्ता (एक काल्पनिक भविष्य की तकनीक जिसके बारे में कई एआई बूस्टर का मानना है कि यह अधिकांश संज्ञानात्मक कार्यों में मनुष्यों की बराबरी करने में सक्षम होगी) से पूरी मानवता को लाभ होगा। OpenAI का लक्ष्य इसे बनाने वाला पहला व्यक्ति बनकर ऐसा करना है। लेकिन जब पचॉकी ने हमारी बातचीत में एजीआई का उल्लेख किया, तो उन्होंने तुरंत यह स्पष्ट कर दिया कि “आर्थिक रूप से परिवर्तनकारी प्रौद्योगिकी” के बारे में बात करने से उनका क्या मतलब है।
एलएलएम मानव मस्तिष्क की तरह नहीं हैं, वे कहते हैं: “वे कुछ मायनों में सतही तौर पर लोगों के समान हैं क्योंकि वे ज्यादातर लोगों के बात करने पर प्रशिक्षित होते हैं।” लेकिन वे वास्तव में कुशल होने के लिए विकास द्वारा नहीं बने हैं
“2028 तक भी, मुझे उम्मीद नहीं है कि हम सिस्टम को हर तरह से लोगों जितना स्मार्ट बना पाएंगे।” मुझे नहीं लगता कि ऐसा होगा,” उन्होंने आगे कहा। “लेकिन मुझे नहीं लगता कि यह बिल्कुल ज़रूरी है। दिलचस्प बात यह है कि बहुत परिवर्तनकारी होने के लिए आपको हर तरह से लोगों जितना स्मार्ट होने की ज़रूरत नहीं है।”
