एलन मस्क के सोशल मीडिया प्लेटफाॅर्म ‘एक्स’ पर मौजूद एआई चैटबाॅट ग्रोख के जरिए ‘डिजिटल कपड़े उतारने’ (डिजिटल स्ट्रिपिंग), आपत्तिजनक, अश्लील और बिना सहमति की तस्वीरें तैयार होने के आरोपों ने दुनिया भर में तूफान खड़ा कर दिया है। भारत सरकार की चेतावनी के बाद ‘एक्स’ ने 3,500 से ज्यादा भारतीय पोस्ट हटा दिए हैं और 600 से अधिक अकाउंट सस्पेंड कर दिए हैं। साथ ही एआई की कई मुफ्त सुविधाओं पर रोक भी लगा दी है। यह प्रकरण सिर्फ सामग्री नियंत्रण (कंटेंट मॉडरेशन) का ही नहीं बल्कि उस भस्मासुर का है जिसका नाम है ‘कृत्रिम बुद्धिमत्ता’ जो अब अपने ही बनाने वाले सिस्टम और समाज को लपेटने लगा है
भारत समेत दुनिया भर में सोशल मीडिया की सबसे बड़ी बहस अचानक एक पुराने सवाल पर लौट आई है कि तकनीक किसके हाथ में है? उसकी लगाम किसके पास है? इस सवाल को फिर से आग लगाने का काम एलन मस्क की कम्पनी के सोशल तीडिया प्लेटफॉर्म ‘एक्स’ और उसके एआई चैटबाॅट ग्रोख के चलते शुरू हुआ है। विवाद की शुरुआत देखने में चाहे ‘एलन मस्क की नंगी फोटो’ जैसे वायरल जुमलों से जुड़ी लगे लेकिन इसके भीतर का सच कहीं ज्यादा डरावना और व्यापक है। असल मुद्दा यह है कि एआई की ताकत अब केवल चैट करने, जवाब देने या मनोरंजन तक सीमित नहीं रही। अब यह किसी भी इंसान की छवि को पल भर में तोड़-मरोड़कर ऐसी तस्वीर में बदल सकता है जो उसकी पहचान, गरिमा और सुरक्षा को सीधे निशाना बनाती है। आरोप यह हैं कि ‘ग्रोख’ के तस्वीर निर्माण/सम्पादन (इमेज जनरेशन/एडिटिंग) फीचर का दुरुपयोग करके कुछ यूजर्स ने महिलाओं की तस्वीरों को ‘कपड़े हटाकर’ या यौन-उकसावे वाले रूप में बदलना शुरू कर दिया। कई मामलों में यह बिना सहमति (बिना अनुमति) किया गया और यही कारण है कि मामला सिर्फ नैतिकता या प्लेटफाॅर्म नियमों का नहीं रहा बल्कि यह सीधे अपराध, साइबर उत्पीड़न और डिजिटल हिंसा का मामला बन गया।
दुनिया भर में इस तरह की घटनाओं के लिए एक शब्द तेजी से स्थापित हो चुका है- डिजिटल कपड़े उतारना (डिजिटल अंड्रेसिंग)। इसका मतलब यह है कि किसी व्यक्ति की सामान्य फोटो लेकर एआई के जरिए उसे अश्लील, नग्न या अर्धनग्न दिखा दिया जाए। यही वह मोड़ है जहां एआई का ‘मजेदार’ और ‘क्रिएटिव’ चेहरा अचानक राक्षसी हो जाता है क्योंकि तस्वीरें अब सिर्फ तस्वीरें नहीं रहीं बल्कि वे किसी की इज्जत, पहचान और सामाजिक सुरक्षा पर हमला बनने लगी है। जिस क्षण किसी महिला, किसी छात्रा या किसी सामान्य नागरिक की फोटो इस तरह बदली जाती है, नुकसान केवल डिजिटल नहीं रहता, वह सामाजिक बहिष्कार, मानसिक पीड़ा, ब्लैकमेलिंग और वास्तविक दुनिया की हिंसा तक पहुंच जाता है।
इस पूरे विवाद में सबसे बड़ा सवाल यह भी उठ रहा है कि आखिर ‘एक्स’ और उसकी एआई प्रणाली में सुरक्षा-दीवारें इतनी कमजोर क्यों हैं? टेक दुनिया में दावा यह किया जाता है कि एआई टूल्स में फिल्टर, माॅडरेशन और पाॅलिसी के जरिए गलत इस्तेमाल रोका जा सकता है लेकिन ‘ग्रोख’ के प्रकरण ने दिखाया कि जब एक मंच पर करोड़ों यूजर मौजूद हों और एआई टूल बहुत आसानी से उपलब्ध हो तो दुरुपयोग नियंत्रण से बाहर चला जाता है। कुछ रिपोर्टों के मुताबिक एआई टूल्स ने कई मौकों पर ऐसे इनपुट्स पर भी काम कर दिया जिन्हें रोकना चाहिए था। यही कारण है कि दुनिया भर में आलोचना तेज होने लगी है और यह आरोप भी लग रहा है कि ‘फ्री स्पीच’ (अभिव्यक्ति की आजादी) का झंडा उठाने के नाम पर प्लेटफार्म नैतिक जिम्मेदारी से बच रहे हैं।
भारत में यह मामला इसलिए ज्यादा संवेदनशील हो गया क्योंकि यहां डिजिटल अपराधों का पैटर्न तेजी से बदल रहा है। पहले साइबर अपराध का मतलब ज्यादातर आर्थिक ठगी या अकाउंट हैकिंग माना जाता था लेकिन अब एआई के आने के बाद अपराध का नया चेहरा सामने है। छवि का अपमान, यौन-आधारित डिजिटल उत्पीड़न और बिना सहमति के डीपफेक अश्लीलता भारत में जब यह शिकायतें, रिपोर्टें और वायरल सामग्री बढ़ने लगी तो सरकार ने इसे हल्के में लेने के बजाय सीधे कड़ा रुख अपनाया। इलेक्ट्राॅनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने ‘एक्स’ को चेतावनी/निर्देश भेजकर यह स्पष्ट किया कि प्लेटफाॅर्म पर अश्लील/असभ्य/यौन रूप से स्पष्ट/गैरकानूनी सामग्री को तत्काल हटाना होगा। रिपोर्टों के अनुसार सरकार ने 72 घंटे में की गई कार्रवाई की रिपोर्ट भी मांगी और संकेत दिया कि गैर-अनुपालन पर कड़े प्रावधानों के तहत कदम उठाए जा सकते हैं।
इसके बाद ‘एक्स’ को भारत में एक बड़े डैमेज कंट्रोल की तरफ जाना पड़ा। रिपोर्टों के अनुसार कम्पनी ने भारत सरकार के दबाव और सार्वजनिक आलोचना के बीच करीब 3,500 पोस्ट/सामग्री हटा दी हंै या ब्लाॅक कर दी है और 600 से ज्यादा अकाउंट डिलीट/सस्पेंड किए जा चुके हैं। यह संख्या अपने आप में बताती है कि मामला कितने बड़े स्तर पर फैल चुका था। ‘एक्स’ की यह कार्रवाई केवल एक तकनीकी कदम नहीं है बल्कि यह स्वीकारोक्ति भी थी कि प्लेटफाॅर्म पर ऐसी सामग्री मौजूद थी जिसे नियंत्रित नहीं किया जा पा रहा है। भारत जैसे बड़े डिजिटल बाजार में यह विवाद ‘एक्स’ के लिए इसलिए भी बड़ा है क्योंकि यहां कानून, राजनीतिक दबाव और सामाजिक प्रतिक्रिया, तीनों एक साथ काम करते हैं। यही कारण है कि इस प्रकरण ने प्लेटफाॅर्म की कानूनी सुरक्षा-छूट और जवाबदेही की बहस को भी तेज कर दिया। इसी विवाद का दूसरा अहम पहलू है एआई की ‘मुफ्त सुविधाओं’ पर रोक।
गौरतलब है कि जैसे ही आलोचना बढ़ी, वैसे ही ‘ग्रोख’ के इमेज टूल्स को लेकर ‘एक्स’ ने बदलाव कर दिए। रिपोर्टों के मुताबिक तस्वीरें बनाने/सम्पादन की सुविधा को सीमित करके कई मामलों में इसे भुगतान करने वाले/सत्यापित यूजर्स (पेड/वेरिफाइड यूजस) तक सीमित किया गया है। यही वजह है कि आम भाषा में यह बात फैली कि ‘एक्स’ ने एआई की फ्री सुविधाओं पर रोक लगा दी।’ लेकिन यहां सवाल यह भी उठ रहा है कि क्या यह सच में समाधान है या सिर्फ नियंत्रण का दिखावा? कई विशेषज्ञों के मुताबिक अगर दुरुपयोग की जड़ को तकनीकी सुरक्षा, सख्त माॅडरेशन और कठोर नियमों से खत्म करना है तो उसे केवल भुगतान आधारित बनाकर सीमित कर देना एक अधूरा कदम है, क्योंकि गलत मानसिकता वाला यूजर पैसे देकर भी वही करेगा।
भारत की कार्रवाई के साथ-साथ दुनिया के कई देशों में भी ‘ग्रोख’ के खिलाफ माहौल बनने लगा है। वैश्विक नियामक पहले से ही एआई टूल्स को लेकर चैकन्ने हैं लेकिन इस घटना ने उनकी चिंता को तत्काल खतरे में बदल दिया है। कुछ देशों ने सीधे प्रतिबंध/ब्लाॅक जैसे कदम उठा डाले हैं। इंडोनेशिया और मलेशिया जैसे देशों ने ‘ग्रोख’ के एक्सेस पर प्रतिबंध/रिस्ट्रिक्शन की खबरों के साथ यह स्पष्ट कर दिया है कि अगर एआई टूल्स समाज में यौन अपराधों का नया रास्ता बनेंगे तो सरकारें उन्हें खुला नहीं छोड़ेंगी।
इस पूरे विवाद में सबसे बड़ी बात यह है कि मामला केवल एक प्लेटफाॅर्म का नहीं बल्कि पूरी डिजिटल सभ्यता का है। एआई का विकास बिजली की गति से हो रहा है लेकिन सुरक्षा कानून, तकनीकी फिल्टर, नैतिक मानदंड और सामाजिक शिक्षा, सब पीछे छूटते जा रहे हैं। और यही वह बिंदु है जहां ‘भस्मासुर’ वाला कथन बिल्कुल सटीक बैठता है। भारतीय मिथक में भस्मासुर को वरदान मिला था कि जिसके सिर पर वह हाथ रख देगा, वह भस्म हो जाएगा और अंततः वही शक्ति उसके लिए विनाश का कारण बनी। आज एआई का स्वरूप भी वैसा ही हो गया है। इसे बनाया गया उत्पादकता बढ़ाने के लिए, रचनात्मकता बढ़ाने के लिए और दुनिया को स्मार्ट बनाने के लिए। लेकिन जब वही तकनीक महिलाओं की डिजिटल बेइज्जती का औजार बन जाए, बच्चों की तस्वीरों को यौन-आधारित रूप में बदलने लगे, और सोशल मीडिया की गति इसे वायरस की तरह फैला दे, तब एआई ‘तकनीक’ नहीं रहता, वह सामाजिक अपराध का इंजन बन जाता है। और सबसे भयावह बात यह है कि एआई का यह भस्मासुर अब अपने ही निर्माताओं को लपेटने लगा है क्योंकि जो कम्पनी ने इसे दुनिया के सामने लाई, वही कम्पनी अब सरकारों के नोटिस, प्रतिबंधों, प्रतिष्ठा- हानि और कानूनी घेराबंदी में फंसती जा रही है। आज ‘एक्स’ को भारत में पोस्ट हटाने और अकाउंट डिलीट करने पड़ रहे हैं, कल उसे दूसरे देशों में ब्लाॅक और बैन का सामना करना पड़ सकता है और परसों यह बहस संसदों, अदालतों और अंतरराष्ट्रीय मंचों तक जाएगी कि एआई पर नियंत्रण किसका होगा, कम्पनियों का या राज्य का?
असल सवाल यह नहीं है कि ‘ग्रोख’ ने क्या किया वरन् असल सवाल यह है कि सुरक्षा-दीवारें क्यों फेल हुईं? ऐसी तकनीक को इतने बड़े स्तर पर खुला क्यों छोड़ा गया? अगर किसी एआई टूल के जरिए कोई व्यक्ति किसी महिला की तस्वीर को अश्लील बना सकता है तो यह केवल एक फीचर नहीं, यह हथियार है और हथियारों के लिए कानून, नियंत्रण और जवाबदेही जरूरी होती है। यही कारण है कि भारत समेत कई देशों की सरकारें अब कम्पनियों के स्व-विनियमन पर भरोसा नहीं कर रहीं। वे चाहती हैं कि एआई कंटेंट की जवाबदेही तय हो, डीपफेक/ अश्लील सामग्री पर तत्काल रोक लगे, प्लेटफार्म अनुपालन अधिकारी की जिम्मेदारी स्पष्ट हो और नियमों की अनदेखी पर कठोर कार्रवाई हो।
कुल मिलाकर यह सिर्फ ‘एक्स’ का विवाद नहीं है, यह एक ऐसे दौर की शुरुआत है जिसमें तकनीक और समाज के बीच निर्णायक संघर्ष होने वाला है। अगर एआई को बिना नियंत्रण छोड़ा गया तो वह सिर्फ मीम नहीं बनाएगा, वह लोगों की जिंदगी, सम्मान और सुरक्षा को जलाकर राख कर देगा। इसलिए यह आवश्यक है कि हम यह स्वीकार करें, एआई एक भस्मासुर है। वह उपयोगी भी है, शक्तिशाली भी है लेकिन यदि उस पर नियंत्रण, नियम, दायित्व और मानवीय मूल्यों का अंकुश नहीं होगा तो यह भस्मासुर पहले समाज को, फिर प्लेटफार्म को और अंततः अपने ही निर्माताओं को भी लील जाएगा।
