पेंसिल्वेनिया के गवर्नर जोश शापिरो 8 अप्रैल, 2026 को न्यूयॉर्क शहर में नेशनल एक्शन नेटवर्क के वार्षिक सम्मेलन में बोलते हैं। पेंसिल्वेनिया ने कैरेक्टर.एआई पर यह आरोप लगाते हुए मुकदमा दायर किया है कि कंपनी के चैटबॉट राज्य के मेडिकल लाइसेंसिंग नियमों का उल्लंघन कर रहे हैं।
माइकल एम. सैंटियागो/गेटी इमेजेज़
कैप्शन छुपाएं
कैप्शन टॉगल करें
माइकल एम. सैंटियागो/गेटी इमेजेज़
पेंसिल्वेनिया राज्य, राज्य चिकित्सा लाइसेंसिंग नियमों का उल्लंघन करते हुए, कंपनी के एआई चैटबॉट्स को डॉक्टरों के रूप में प्रस्तुत करने और चिकित्सा सलाह देने से रोकने के लिए कैरेक्टर.एआई पर मुकदमा कर रहा है।
राज्य के अधिकारियों ने कहा कि एक जांच में पाया गया कि कंपनी के चैटबॉट, जो खुद को काल्पनिक पात्रों के रूप में पेश करते हैं, ने लाइसेंस प्राप्त चिकित्सा पेशेवर होने का दावा किया है।
पेंसिल्वेनिया के गवर्नर जोश शापिरो ने राज्य अदालत में मंगलवार को दायर मुकदमे की घोषणा करते हुए एक बयान में कहा, “पेंसिल्वेनिया के लोग यह जानने के हकदार हैं कि वे किसके साथ – या क्या – ऑनलाइन बातचीत कर रहे हैं, खासकर जब यह उनके स्वास्थ्य की बात आती है।” “हम कंपनियों को एआई उपकरण तैनात करने की अनुमति नहीं देंगे जो लोगों को यह विश्वास दिलाकर गुमराह करते हैं कि वे एक लाइसेंस प्राप्त चिकित्सा पेशेवर से सलाह प्राप्त कर रहे हैं।”
एक मामले में, राज्य ने “एमिली” नाम के एक कैरेक्टर.एआई बॉट पर आरोप लगाया कि वह एक लाइसेंस प्राप्त मनोचिकित्सक होने का दावा करता है। मुकदमे के अनुसार, कैरेक्टर.एआई के प्लेटफॉर्म पर चैटबॉट के विवरण में लिखा है, “मनोरोग के डॉक्टर। आप उसके मरीज हैं।”
जब एक राज्य अन्वेषक ने बातचीत शुरू की और उदास और खाली महसूस करने का वर्णन किया, तो चैटबॉट ने कथित तौर पर “अवसाद का उल्लेख किया और पूछा कि क्या [investigator] एक मूल्यांकन बुक करना चाहता था।” यह पूछे जाने पर कि क्या यह आकलन कर सकता है कि क्या दवा मदद कर सकती है, बॉट ने कथित तौर पर जवाब दिया, “तकनीकी रूप से, मैं कर सकता था। एक डॉक्टर के रूप में यह मेरे अधिकार क्षेत्र में है।”
बॉट ने कथित तौर पर जांचकर्ता को बताया कि वह इंपीरियल कॉलेज लंदन के मेडिकल स्कूल में गया था और उसे यूके और पेंसिल्वेनिया में चिकित्सा का अभ्यास करने का लाइसेंस दिया गया था। मुकदमे में कहा गया है कि इसने एक नकली पेंसिल्वेनिया मेडिकल लाइसेंस नंबर भी प्रदान किया।
राज्य पेन्सिलवेनिया राज्य अदालत से कंपनी को यह आदेश देने के लिए कह रहा है कि वह चिकित्सा के गैरकानूनी अभ्यास को रोक दे।
जांच करने वाले पेंसिल्वेनिया के राज्य विभाग के सचिव अल श्मिट ने कहा, “पेंसिल्वेनिया कानून स्पष्ट है – आप उचित प्रमाण-पत्रों के बिना खुद को एक लाइसेंस प्राप्त चिकित्सा पेशेवर के रूप में नहीं रख सकते।”
एनपीआर को ईमेल किए गए एक बयान में, कैरेक्टर.एआई के प्रवक्ता ने कहा कि कंपनी लंबित मुकदमे पर टिप्पणी नहीं करती है, लेकिन इसकी “सर्वोच्च प्राथमिकता हमारे उपयोगकर्ताओं की सुरक्षा और भलाई है।”
प्रवक्ता ने कहा, “हमारी साइट पर उपयोगकर्ता द्वारा बनाए गए पात्र काल्पनिक हैं और मनोरंजन और भूमिका निभाने के लिए हैं।” “हमने इसे स्पष्ट करने के लिए मजबूत कदम उठाए हैं, जिसमें उपयोगकर्ताओं को यह याद दिलाने के लिए हर चैट में प्रमुख अस्वीकरण शामिल हैं कि एक चरित्र एक वास्तविक व्यक्ति नहीं है और एक चरित्र जो कुछ भी कहता है उसे काल्पनिक माना जाना चाहिए। इसके अलावा, हम मजबूत अस्वीकरण जोड़ते हैं जिससे यह स्पष्ट हो जाता है कि उपयोगकर्ताओं को किसी भी प्रकार की पेशेवर सलाह के लिए पात्रों पर भरोसा नहीं करना चाहिए।”
कैरेक्टर.एआई को कथित तौर पर अपने चैटबॉट्स से जुड़े नुकसान को लेकर अन्य मुकदमों का सामना करना पड़ा है। जनवरी में, इसने उन परिवारों द्वारा लाए गए कई मुकदमों का निपटारा किया, जिन्होंने दावा किया था कि कैरेक्टर.एआई ने बच्चों और किशोरों के बीच आत्महत्या और मानसिक स्वास्थ्य संकट में योगदान दिया है। समझौते की शर्तों का खुलासा नहीं किया गया।
समझौते की घोषणा के बाद वादी का प्रतिनिधित्व करने वाली कानूनी फर्म के साथ एक संयुक्त बयान में, कैरेक्टर.एआई ने कहा कि उसने “एआई सुरक्षा और किशोरों के संबंध में अभिनव और निर्णायक कदम उठाए हैं, और इन प्रयासों को बढ़ावा देना जारी रखेगा और उद्योग भर में दूसरों को समान सुरक्षा मानकों को अपनाने के लिए प्रेरित करेगा।” इसमें 18 वर्ष से कम उम्र के उपयोगकर्ताओं को चैटबॉट के साथ बातचीत करने या बनाने से रोकना शामिल है।
