आख़िरकार, डेविड ने टेक गोलियथ्स पर दोहरा मुक्का मारा। अब उन्हें और भी जोर से मारना है | जोनाथन फ्रीडलैंड

जीआजकल अच्छी ख़बरें इतनी दुर्लभ हैं कि आप नहीं जानते कि इसे कैसे लिया जाए। आप जश्न मनाना चाहते हैं, लेकिन एक प्रतिद्वंद्वी प्रवृत्ति आपको बताती है कि इसे किसी भी तरह वापस खींच लिया जाएगा, वही भावना जो आपको तब मिलती है जब आपकी टीम देर से विजेता बनती है, लेकिन आप तुरंत डर से भर जाते हैं कि वीडियो रीप्ले पर लक्ष्य पलट दिया जाएगा।

मैं स्वीकार करता हूं कि इस सप्ताह फेसबुक और इंस्टाग्राम का मालिकाना हक रखने वाली कंपनी मेटा को मिले दोहरे कानूनी झटके का मैंने इसी तरह जवाब दिया, जब दो अमेरिकी जूरी ने लगातार कुछ दिनों में कुछ ऐतिहासिक मामलों में इसके खिलाफ पाया। सबसे पहले न्यू मैक्सिको में एक फैसला आया, जिसमें कंपनी पर अपने प्लेटफॉर्म पर बाल यौन शोषण सहित नुकसान पहुंचाने और उपभोक्ताओं को उनकी सुरक्षा के बारे में गुमराह करने के लिए 375 मिलियन डॉलर (£ 280 मिलियन) का जुर्माना लगाया गया। चौबीस घंटे बाद, कैलिफ़ोर्निया में जूरी सदस्यों ने एक युवा उपयोगकर्ता को 6 मिलियन डॉलर का हर्जाना दिया, जिसने तर्क दिया था कि मेटा (यूट्यूब के साथ) ने जानबूझकर नशे की लत वाले उत्पाद डिज़ाइन किए थे, जिन्होंने उसे बचपन से ही जकड़ लिया था, जिससे उसे गंभीर नुकसान हुआ।

प्रचारक रोमांचित थे, यह विश्वास करते हुए कि उन्होंने आखिरकार उन तकनीकी कंपनियों को वश में करने की अपनी लंबी लड़ाई में सफलता हासिल की है जो हमारे दैनिक जीवन को प्रभावित करती हैं – जो दुनिया के बारे में हम जो जानते हैं, हम दूसरों से कैसे बात करते हैं और हम अपने बारे में कैसा महसूस करते हैं उसे प्रभावित करते हैं। मैंने कैलिफोर्निया के फैसले के एक दिन बाद फेसबुक के पूर्व कर्मचारी फ्रांसेस हाउगेन से बात की, जो व्हिसलब्लोअर बन गए, जिन्होंने 2021 में 20,000 पृष्ठों के आंतरिक दस्तावेज़ जारी करके स्पष्ट सबूत दिए कि कंपनी अपने प्लेटफार्मों को जानती थी। नुकसान पहुंचा रहे थे, चाहे बच्चों को नुकसान पहुंचा रहे हों या लोकतंत्र को अस्थिर कर रहे हों, लेकिन फिर भी “खगोलीय लाभ” की खोज में आगे बढ़ गए, हौगेन ने मुझे बताया कि मेटा को “एस्बेस्टस क्षण” का सामना करना पड़ सकता है, इसके उत्पादों को विषाक्त माना जाएगा और कानूनी भुगतान का सामना करना पड़ेगा। उनकी गणना के अनुसार, एक ट्रिलियन डॉलर जितनी – एक राशि, जो वह कहती है, “दिवालियापन” को एक वास्तविक संभावना बना देगी।

उस परिणाम की संभावना का आकलन करने से पहले, खुद को विषाक्तता की याद दिलाना उचित है। हौगेन की फाइलों के साथ, एक उपयोगी पाठ केयरलेस पीपल है, जो साथी फेसबुक व्हिसलब्लोअर सारा व्यान-विलियम्स द्वारा लिखा गया 2025 का संस्मरण है। वहां वह बताती है कि प्लेटफ़ॉर्म पर और बाहर उपयोगकर्ताओं की गतिविधि को ट्रैक करने में सक्षम कंपनी कैसे देख सकती है, उदाहरण के लिए, 13 से 17 वर्ष की आयु की लड़कियों ने एक सेल्फी हटा दी। यह महसूस करते हुए कि यह लड़कियों के अपने रूप-रंग को लेकर असंतोष का संकेत है, कंपनी ने उस नाखुशी से कमाई करने का एक तरीका खोजा। शुल्क के लिए, एक सौंदर्य प्रसाधन कंपनी उसी समय उन बच्चों को एक सौंदर्य विज्ञापन दे सकती है।

फेसबुक ने इस व्यवहार को छुपाया नहीं; उन्होंने इसका घमंड किया। व्यान-विलियम्स ने खुलासा किया कि कैसे फेसबुक ने एक ऑस्ट्रेलियाई ग्राहक के लिए एक प्रस्तुति दी, जिसमें दावा किया गया कि उपयोगकर्ताओं के ऑनलाइन जीवन – उनके पोस्ट, उनकी तस्वीरें, दोस्तों के साथ उनकी बातचीत – पर नज़र रखने की इसकी क्षमता ने उन्हें यह जानने में सक्षम बनाया कि किशोर लड़कियां कब “बेकार”, “असुरक्षित”, “तनावग्रस्त” महसूस कर रही थीं। , `पराजित“, `चिंतित“, `मूर्ख“, `बेकार“ और “एक विफलता की तरह“। बेचने के लिए वे सर्वोत्तम क्षण थे।

कंपनी के भीतर असहमति की आवाजों ने बेचैनी व्यक्त की, लेकिन उन्हें खारिज कर दिया गया। न्यू मैक्सिको की अदालत ने सुना कि कैसे एक पूर्व मेटा कर्मचारी ने संस्थापक और सीईओ मार्क जुकरबर्ग को पत्र लिखकर युवा लड़कियों को इंस्टाग्राम पर कॉस्मेटिक सर्जरी फिल्टर तक पहुंच की अनुमति देने के खतरे को देखने का आग्रह किया, जिससे उपयोगकर्ता देख सकें कि वे बड़ी आंखों या मोटे होंठों के साथ कैसी दिखेंगी। सहकर्मी ने यह कहते हुए ईमेल किया कि उनकी एक बेटी को “बॉडी डिस्मॉर्फिया के लिए दो बार अस्पताल में भर्ती कराया गया था” और जब बात शरीर की छवि की आती है, तो “सोशल मीडिया के माध्यम से उन पर और उनके साथियों पर दबाव तीव्र होता है”। जुकरबर्ग अविचलित थे। उन्होंने कहा कि उपयोगकर्ताओं की “खुद को इन तरीकों से प्रस्तुत करने की क्षमता” को सीमित करना “पितृसत्तात्मक” होगा।

हौगेन, जो कंपनी की नागरिक अखंडता टीम में काम करते थे, ने मुझे बताया कि कैसे सहकर्मी एक छोटे से बदलाव का प्रस्ताव कर सकते हैं जो प्लेटफ़ॉर्म को होने वाले नुकसान को काफी हद तक कम कर देगा। लेकिन अगर वह बदलाव – जैसे, देर रात तक बच्चों को सूचनाएं न भेजना, उन्हें इंस्टाग्राम पर वापस आने का आग्रह करना – के कारण उपयोगकर्ता सहभागिता में 1% की गिरावट आई, तो बॉस इसे वीटो कर देंगे। जैसा कि हौगेन कहते हैं: “मार्क ने कहा कि सबसे महत्वपूर्ण बात मंच पर बिताए जाने वाले समय को बढ़ाना है।”

इसलिए इसमें कोई आश्चर्य की बात नहीं है कि इतने सारे लोगों ने इस सप्ताह के अदालती फैसलों का स्वागत किया है। आख़िरकार, डेविड परिवार ने सोशल मीडिया गोलियथ्स का मुकाबला करते हुए उस तथाकथित दायित्व ढाल से बचने का एक रास्ता ढूंढ लिया है जिसने दशकों तक उनकी रक्षा की थी।

1990 के दशक में पारित, प्रमुख कानून की धारा 230 ने फैसला सुनाया कि तकनीकी कंपनियों को उनके प्लेटफ़ॉर्म पर पोस्ट की गई सामग्री के लिए जिम्मेदार नहीं ठहराया जा सकता है, जितना कि आप अपमानजनक पत्र की सामग्री के लिए पोस्ट ऑफिस को जिम्मेदार ठहरा सकते हैं। कैलिफ़ोर्निया का मामला, विशेष रूप से, सामग्री – इस या उस अप्रिय पोस्ट – पर ध्यान केंद्रित करके उस ढाल को पार कर गया, बल्कि सामग्री अनुशंसा प्रणाली पर ध्यान केंद्रित करके, जिसका अर्थ है वह मशीनरी जो यह निर्धारित करती है कि उपयोगकर्ता क्या देखते हैं।

वह मशीनरी – डिज़ाइन द्वारा व्यसनी, चाहे वह स्वचालित वीडियो प्ले हो या अनंत फ़ीड जो निरंतर स्क्रॉलिंग को प्रोत्साहित करती हो – पूरी तरह से तकनीकी कंपनियों द्वारा तैयार और संचालित की जाती है। इसका मतलब है कि इससे होने वाले नुकसान के लिए वे जिम्मेदार हैं। जैसा कि वकील रवि नाइक, जो व्यान-विलियम्स और अन्य के लिए काम करते हैं, ने मुझसे कहा: “ये प्रणालियाँ लोगों द्वारा बनाई गई हैं। ये देवताओं द्वारा प्रदत्त अमूर्त संस्थाएँ नहीं हैं। यह लोगों के निर्णयों और उनके द्वारा चुने गए विकल्पों के प्रति जवाबदेही के बारे में है। क्या कानून इसी के लिए नहीं है?”

मेरी सहज चिंता क्या है कि इस जीत को VAR-शैली में पलटा जा सकता है? यह सच है कि इस सप्ताह के फैसलों के खिलाफ अपील की जाएगी, कि वे अमेरिकी सर्वोच्च न्यायालय तक पहुंचने तक सिस्टम में अपना काम कर सकते हैं, जो अपने वर्तमान, ट्रम्प-आकार वाले रूप में, बड़ी तकनीक के पक्ष में फैसला दे सकता है। यह भी सच है कि वर्षों की कानूनी उलझन तकनीकी कंपनियों को वही करने की अनुमति देगी जो वे कर रहे हैं और अरबों कमाते रहेंगे। लेकिन कानूनी विशेषज्ञों का कहना है कि जज के फैसले की तुलना में जूरी के फैसले पलटने की संभावना कम होती है। और, पाइपलाइन में इसी तरह के हजारों मामलों के साथ, मेटा को तबाह करने के लिए एक सफल वर्ग-कार्रवाई मुकदमे में शामिल होने के लिए अमेरिका के किशोरों का केवल एक छोटा सा हिस्सा ही लगेगा। हाउगेन ने गणित किया: 150,000 किशोरों में से प्रत्येक को $6 मिलियन का पुरस्कार दिया गया, वे एक ट्रिलियन-डॉलर के बिल के साथ मेटा छोड़ देंगे।

एक और चिंता: यह केवल अमेरिका है – बाकी दुनिया के बारे में क्या? माना जाता है कि ब्रिटेन और यूरोपीय संघ जैसे देशों में कड़े नियम हैं, लेकिन प्रवर्तन में कमी रही है। यूरोपीय नियामक अमेरिकी तकनीकी दिग्गजों से डरते रहे हैं, जैसे यूरोपीय सरकारें ट्रम्प प्रशासन से डरती रही हैं। लेकिन यह बदल सकता है। जैसे-जैसे यूरोपीय लोग ईरान पर ट्रम्प के विनाशकारी युद्ध से अलग खड़े हैं, ऐसे संकेत हैं कि वे अपना दावा करने के लिए तैयार हो रहे हैं “डिजिटल संप्रभुता”। अन्य लोग पहले से ही ऐसा कर रहे हैं: ध्यान दें कि ऑस्ट्रेलिया ने अंडर-16 के लिए सोशल मीडिया पर प्रतिबंध लगा दिया है, इंडोनेशिया शनिवार से इस कदम पर अमल कर रहा है।

शायद सबसे बड़ी चिंता एआई है। क्या यह संभव है कि जैसे ही एक नया, अधिक बड़ा ख़तरा सामने आता है, कानून ने अंततः पुराने सोशल मीडिया प्लेटफ़ॉर्मों पर प्रहार कर दिया है? यह पहली बार नहीं है कि जुकरबर्ग ने उनके लिए एक उज्ज्वल नए भविष्य का वादा किया है, लेकिन जो, लगभग हर किसी के लिए, एक दुःस्वप्न जैसा लगता है। वह एआई को मानव मस्तिष्क से भी अधिक शक्तिशाली एक ईश्वरीय “सुपरइंटेलिजेंस” बनते देखना चाहते हैं, और उस दिन का इंतजार कर रहे हैं जब एआई वह भूमिका निभाएगा जो अब हमारे दोस्त निभाते हैं। निश्चित रूप से इस सप्ताह की कानूनी जीत उस खतरे को रोकने के लिए कुछ नहीं करेगी?

इतना आश्वस्त मत होइए. अदालतों ने अब फैसला सुनाया है कि तकनीकी कंपनियां अपने सिस्टम के लिए उत्तरदायी हैं, और नाइक कहते हैं, एआई, “पूरी तरह से मानव-डिज़ाइन की गई प्रणाली है”। उदाहरण के लिए, एलोन मस्क के ग्रोक द्वारा ऑर्डर करने के लिए वास्तविक महिलाओं की नकली नग्न तस्वीरें बनाने का हर विकल्प मानवीय था – जिसके लिए ग्रोक के निर्माता को अब अमेरिकी अधिकारियों और व्यक्तियों दोनों द्वारा दायर मुकदमों के रूप में जिम्मेदार ठहराया जा रहा है, जो कहते हैं कि उनके साथ चैटबॉट द्वारा दुर्व्यवहार किया गया था, उनमें एशले सेंट क्लेयर भी शामिल है, जो मस्क के बच्चों में से एक की मां है।

बेशक, दलाली में अथाह गहरी जेब वाले दृढ़ निश्चयी लोग और व्हाइट हाउस में एक दोस्त शामिल होते हैं। किसी को यह नहीं मानना ​​चाहिए कि वे जल्दी या आसानी से मुड़ जाएंगे। लेकिन उन लोगों के खिलाफ लंबे युद्ध में जिन्होंने 21वीं सदी के जीवन को नष्ट करने के लिए बहुत कुछ किया है, यह सप्ताह एक महत्वपूर्ण जीत लेकर आया – और हमें इसका जश्न मनाना चाहिए।

• जोनाथन फ्रीडलैंड एक गार्जियन स्तंभकार हैं

• क्या इस लेख में उठाए गए मुद्दों पर आपकी कोई राय है? यदि आप हमारे पत्र अनुभाग में प्रकाशन हेतु विचार हेतु ईमेल द्वारा 300 शब्दों तक की प्रतिक्रिया प्रस्तुत करना चाहते हैं, तो कृपया यहां क्लिक करें।