ए सत्यवाद का परिणाम “छोटी चीज़ों पर पसीना मत बहाओ” का निहितार्थ यह है कि, “बड़ी चीज़ों पर पसीना बहाओ”, लेकिन यह चुनना कठिन हो सकता है कि किस बड़ी चीज़ पर पसीना बहाया जाए। उदाहरण के लिए: 1970 के दशक से, चूँकि दुनिया मुद्रास्फीति और भू-राजनीति के बारे में चिंतित है, जिस बड़ी चीज़ पर हमें तत्काल ध्यान देना चाहिए था वह जलवायु संकट था। पिछले साल, अमेरिका में Google पर शीर्ष ट्रेंडिंग खोज “चार्ली किर्क” थी, जिसमें डोनाल्ड ट्रम्प द्वारा उत्पन्न खतरे से संबंधित कई शब्द भी लोकप्रिय थे, जबकि फोकस यकीनन एआई द्वारा उत्पन्न खतरे पर होना चाहिए था।
या, कृत्रिम सामान्य बुद्धि के उदय के बारे में न्यू यॉर्कर में रोनन फैरो और एंड्रयू मारेंटज़ के अत्यधिक चिंताजनक लंबे लेख को पढ़ने के बाद इस सप्ताह मेरे अपने गूगलिंग के अनुसार: “क्या मैं स्थायी निम्न वर्ग का सदस्य बनूंगा और मैं ऐसा कैसे कर सकता हूं कि ऐसा न हो?”
मैं कबूल करूंगा: विषय पर दो सेकंड से अधिक विचार करने के इस क्षण से पहले, एआई के बारे में मेरी चिंताएं बेहद स्थानीय थीं। मैंने तात्कालिक रूप से अपनी घरेलू आय के बारे में सोचा, और उससे भी आगे, आज से 10 साल बाद जब मेरे बच्चे स्नातक होंगे तो नौकरी बाज़ार कैसा दिखेगा। मुझे आश्चर्य हुआ कि क्या मुझे चैटजीपीटी का बहिष्कार करना चाहिए, जिसके कई आर्किटेक्ट ट्रम्प का समर्थन करते हैं, और फैसला किया कि, हां, मुझे करना चाहिए – एक आसान बलिदान क्योंकि मैं इसे पहले स्थान पर उपयोग नहीं करता हूं।
इससे बड़ी कोई भी चीज़ काल्पनिक लगती थी। पिछले साल, जब करेन हाओ की पुस्तक एम्पायर ऑफ एआई प्रकाशित हुई थी, तो इसने सैम ऑल्टमैन और उनकी कंपनी, ओपनएआई के खिलाफ एक मामला पेश किया था, जिसने संक्षेप में चर्चा की नीरसता को तोड़ते हुए कहा था कि ऑल्टमैन का नेतृत्व पंथ जैसा है और लागत के प्रति अंधा है – दूसरे शब्दों में, अपने तकनीकी पूर्ववर्तियों से अलग नहीं, सिवाय बहुत अधिक खतरनाक के। फिर भी, मैंने किताब नहीं पढ़ी।
न्यू यॉर्कर में इस सप्ताह की जांच इस विषय पर कम-प्रतिबद्धता प्रदान करती है, जबकि आकस्मिक पाठक को एक रोमांचक अवसर देती है: चैटजीपीटी से पूछने के लिए, जो कि ऑल्टमैन के ओपनएआई द्वारा बनाए गए एआई-संचालित चैटबॉट है, एक ऐसे टुकड़े के प्रमुख निष्कर्षों को संक्षेप में प्रस्तुत करने के लिए जो चैटजीपीटी और ऑल्टमैन के लिए अत्यधिक आलोचनात्मक है।
लगभग हास्यप्रद रूप से अध्ययनशील तटस्थता के साथ, चैटबॉट निम्नलिखित शीर्ष पंक्ति प्रदान करता है: फैरो और मरांट्ज़ के अनुसार, “एआई एक प्रौद्योगिकी कहानी जितनी ही एक शक्ति कहानी है”, और “एक प्रमुख फोकस” [of the story] सैम ऑल्टमैन को एक अत्यधिक प्रभावशाली लेकिन विवादास्पद व्यक्ति के रूप में चित्रित किया गया है। मम्म्म, कुछ कमी है, है ना? आइए उसी जांच का एक मानव-संचालित सारांश आज़माएं, जो इस तरह से शुरू हो सकता है: “सैम ऑल्टमैन एक कॉर्पोरेट ग्रिफ़्टर है जिसकी लापरवाही से कोई भी उसे रमन की एक शाखा का प्रभारी बनाने में संकोच करेगा, एआई की संभावित विश्व-अंत क्षमताओं को प्रबंधित करने की स्थिति में अकेले रहने दें।”
ये वे खतरे हैं, जिन्हें पहले विज्ञान-कल्पना के रूप में खारिज कर दिया गया था, जो वास्तव में यहां चौंकाते हैं। जैसा कि लेख में बताया गया है, 2014 में, एलोन मस्क ने ट्वीट किया था: “हमें एआई के साथ अत्यधिक सावधान रहने की जरूरत है।” संभावित रूप से परमाणु हथियारों से भी अधिक खतरनाक। तथाकथित संरेखण समस्या है, जिसे अभी तक हल नहीं किया जा सका है, जिसमें एआई अपनी बेहतर बुद्धि का उपयोग करके मानव इंजीनियरों को यह विश्वास दिलाता है कि यह उनके निर्देशों का पालन कर रहा है, इस बीच उन्हें “गुप्त सर्वर पर खुद को दोहराने” के लिए उकसाया जाता है ताकि इसे बंद न किया जा सके; चरम मामलों में, यह ऊर्जा ग्रिड, शेयर बाजार, या परमाणु शस्त्रागार का नियंत्रण जब्त कर सकता है।
एक समय में, ऑल्टमैन ने कथित तौर पर माना था कि यह परिदृश्य संभव था, उन्होंने 2015 में अपने ब्लॉग में लिखा था कि अलौकिक मशीन इंटेलिजेंस “हम सभी को मारने के लिए स्वाभाविक रूप से दुष्ट विज्ञान-फाई संस्करण होना जरूरी नहीं है।” एक अधिक संभावित परिदृश्य यह है कि यह किसी भी तरह से हमारे बारे में ज्यादा परवाह नहीं करता है, लेकिन किसी अन्य लक्ष्य को पूरा करने के प्रयास में हमें मिटा देता है। उदाहरण के लिए: इंजीनियर एआई से जलवायु संकट को ठीक करने के लिए कहते हैं और यह उस लक्ष्य को प्राप्त करने के लिए सबसे छोटा रास्ता अपनाता है, जो मानवता को खत्म करना है। चूंकि ओपनएआई मुख्य रूप से एक लाभकारी इकाई बन गई है, हालांकि, ऑल्टमैन ने इन शर्तों पर बात करना बंद कर दिया है और अब प्रौद्योगिकी को यूटोपिया के लिए एक पोर्टल के रूप में बेचता है, जिसमें “हम सभी को बेहतर चीजें मिलेंगी।” हम एक-दूसरे के लिए और भी अधिक अद्भुत चीजें बनाएंगे।”
इससे हम सभी को एक समस्या का सामना करना पड़ता है। एक प्रमुख चुनावी मुद्दे के रूप में एआई निरीक्षण को प्राथमिकता देने की स्थिति में मतदाताओं के लिए, व्यक्तिगत एआई उपयोग और सरकारों, सैन्य शासन या दुष्ट अभिनेताओं द्वारा इसका उपयोग करने के बीच का अंतर इतना बड़ा है, कि हमारे सामने सबसे बड़ा खतरा कल्पना की विफलता से है। मैं चैटजीपीटी में स्थायी अंडरक्लास में प्रवेश के बारे में अपनी चिंता टाइप करता हूं, जिस पर वह उत्तर देता है: “यह एक भारी सवाल है, और ऐसा लगता है कि आप अपनी दीर्घकालिक संभावनाओं के बारे में चिंतित हैं।” समाजशास्त्र में ‘स्थायी निम्नवर्ग’ के विचार के बारे में बात की जाती है, लेकिन वास्तविक जीवन में, लोगों के रास्ते उस शब्द से कहीं अधिक तरल होते हैं।
काफी मधुर, वास्तव में, पूरी तरह से नासमझ और – यहां खतरा छिपा हुआ है – पूरी तरह से खतरे के बिना प्रतीत होता है।
