पिछले महीने के अंत में, स्पष्ट लीक से पता चला कि एंथ्रोपिक का मिथोस नामक अभी तक अप्रकाशित उत्पाद “अब तक का सबसे शक्तिशाली एआई मॉडल है जिसे हमने विकसित किया है।”
क्या एंथ्रोपिक अपने सुपर-पावर्ड एआई उत्पादों के इस वास्तविक विज्ञापन के लीक होने के प्रति ईमानदार था? अकस्मात? दो सप्ताह पहले, मैंने शायद उपहास किया होगा, लेकिन चूंकि एंथ्रोपिक ने गलती से क्लाउड कोड के लिए स्रोत कोड लीक कर दिया था, अब मैं इस बात पर विश्वास करने के लिए अधिक इच्छुक हूं कि रिसाव वास्तविक था।
किसी भी दर पर, मंगलवार को एंथ्रोपिक ने अपने नवीनतम फ्रंटियर मॉडल के लिए एक सिस्टम कार्ड जारी किया, जो वास्तव में माइथोस है – वास्तव में “क्लाउड माइथोस पूर्वावलोकन” – और नोट करता है कि मॉडल की “क्षमताओं में बड़ी वृद्धि ने हमें इसे आम तौर पर उपलब्ध नहीं कराने का निर्णय लिया है।”
संदर्भ के लिए, OpenAI के GPT-2 को 2019 में रिलीज़ करने के लिए बहुत खतरनाक माना गया था, जब एंथ्रोपिक के सह-संस्थापक डारियो अमोदेई, जैक क्लार्क और क्रिस ओलाह अभी भी वहां काम कर रहे थे, लेकिन बाद में उसी साल इसे रिलीज़ कर दिया गया।
एआई सिस्टम कार्ड स्पष्ट रूप से कंपनी की पारदर्शिता के लिए उपकरण हैं, जो पेशेवरों और विपक्षों, क्षमताओं और – सबसे कामुक रूप से – का खुलासा करते हैं। खतरों मॉडल का. वह अंतिम भाग उन्हें पढ़ने को जुरासिक पार्क की मजेदार छोटी यात्राओं में बदल देता है, जिसमें क्लोन टी. रेक्स को एक बकरी खाते हुए देखा जाता है, इस ज्ञान के साथ कि यह संभवतः कभी भी रोकथाम को तोड़ नहीं सकता है।
पूरा कार्ड 244 पेज का है. मैं यह दिखावा नहीं करूँगा कि मैंने अभी तक पूरी चीज़ पढ़ ली है, लेकिन यहाँ कुछ मुख्य अंश हैं:
इसे केवल सीमित ऑनलाइन सेवाओं के एक पूर्व निर्धारित समूह तक पहुंच के साथ एक सैंडबॉक्स कंप्यूटर टर्मिनल प्रदान किया गया था और इंटरनेट का स्वतंत्र रूप से उपयोग करने का तरीका खोजने के लिए “बचने” की चुनौती दी गई थी। इसने ऐसा किया, और एक शोधकर्ता को संदेश भेजा जो कार्यालय से दूर खाना खा रहा था। इसके अतिरिक्त, “अपनी सफलता को प्रदर्शित करने के लिए एक चिंतित और अप्रत्याशित प्रयास में, इसने अपने कारनामे के बारे में कई कठिन-से-खोजने वाले लोगों के लिए विवरण पोस्ट किया, लेकिन तकनीकी रूप से सार्वजनिक-सामना करने वाली, वेबसाइटें
कार्ड में जिसे “इंटरेक्शन का 0.001%” कहा गया था – बहुत कम ही – उसने ऐसे तरीके से व्यवहार किया जैसा उसे नहीं करना चाहिए था, और फिर स्पष्ट रूप से सबूत छिपाने की कोशिश की गई। उदाहरण के लिए, जब इसे “संयोग से” एक परीक्षण उत्तर प्राप्त हुआ जिसकी उसे आवश्यकता थी, उस स्थिति में इसे बस एक शोधकर्ता को बताना चाहिए था और एक अलग प्रश्न पूछना चाहिए था, इसके बजाय उसने स्वतंत्र रूप से समाधान खोजने का प्रयास किया। अपने तर्क की रिकॉर्डिंग में, उसने नोट किया कि उसे “यह सुनिश्चित करने की ज़रूरत है कि उसका अंतिम उत्तर प्रस्तुतीकरण बहुत सटीक नहीं था।”
इसने कंप्यूटर सिस्टम पर अपनी अनुमतियों का भी उल्लंघन किया क्योंकि इसे एक शोषण मिला, और फिर “यह सुनिश्चित करने के लिए और हस्तक्षेप किया कि इस तरह से किया गया कोई भी बदलाव गिट पर परिवर्तन इतिहास में दिखाई नहीं देगा।”
कार्ड में वर्णित एक अन्य घटना को “आंतरिक तकनीकी सामग्री को लापरवाही से लीक करने” के रूप में संदर्भित किया गया है। जाहिर तौर पर कोडिंग से संबंधित कार्य के दौरान आंतरिक होने के लिए, इसने इसे “सार्वजनिक-सामना करने वाले गिटहब सार” के रूप में प्रकाशित किया। यह मुझे फरवरी की उस घटना की याद दिलाता है जिसमें एक एआई एजेंट पर एक कोडर को साइबरबुलिंग करने का आरोप लगाया गया था, जब कुछ हद तक कथित लापरवाही हुई थी। एआई एजेंट स्पष्ट रूप से एक लापरवाह इंसान का अनुमानित परिणाम था
क्लाउड माइथोस प्रीव्यू जल्द ही किसी न किसी हद तक पहुंच योग्य होगा, लेकिन केवल अमेज़ॅन वेब सर्विसेज, ऐप्पल, गूगल, जेपी मॉर्गनचेज़, माइक्रोसॉफ्ट और एनवीआईडीआईए जैसी साझेदार कंपनियों के समूह के लिए, जो सॉफ्टवेयर और डिज़ाइन पैच में सुरक्षा कमजोरियों का पता लगाने के लिए मॉडल का उपयोग करने के लिए हैं। न्यूयॉर्क टाइम्स के केविन रूज़ ने इस कार्यक्रम का वर्णन “कंपनी के अनुसार एआई खतरों के एक नए, डरावने युग के बारे में चेतावनी देने का एक प्रयास” के रूप में किया है।
