AI-जनरेटेड न्यूड्स को क्यों नहीं रोका जा सकता — एक बिल्डर का दृष्टिकोण

वह रुकावट जो पहले लोगों की सुरक्षा करती थी, अब खत्म हो चुकी है

कुछ साल पहले, एक वास्तविक लगने वाली फर्जी न्यूड तस्वीर बनाने में काफी प्रयास लगता था — एक ठीक-ठाक GPU, बोझिल (clunky) सॉफ़्टवेयर के साथ धैर्य, और खराब परिणामों को सहन करने की क्षमता। वह प्रयास एक प्राकृतिक फ़िल्टर के रूप में काम करता था, जो किसी भी ऐसे व्यक्ति को दूर रखता था जो गंभीर रूप से प्रेरित नहीं था। अब वह फ़िल्टर समाप्त हो चुका है।

आज के ओपन इमेज-जनरेशन मॉडल साधारण कंज्यूमर हार्डवेयर पर भी फ़ोटोरीअलिस्टिक (photorealistic) आउटपुट तैयार करते हैं। कम्युनिटी मॉडल रिपॉजिटरीज़ पर मौजूद चेकपॉइंट्स (checkpoints) को दस-दस लाख से भी ज़्यादा बार डाउनलोड किया जा चुका है, और लोकप्रिय बेस मॉडलों पर बने अश्लील-सामग्री वाले वेरिएंट्स सैकड़ों-हज़ारों बार डाउनलोड किए गए हैं। इसके ऊपर शौकीनों (hobbyists) द्वारा बनाई गई अनगिनत छोटी "फ़ाइन-ट्यून" (fine-tune) फ़ाइलें मौजूद हैं, जो आउटपुट को किसी विशेष लुक, बॉडी टाइप या यहाँ तक कि किसी विशिष्ट वास्तविक व्यक्ति की छवि की ओर मोड़ती हैं। सबसे व्यापक रूप से उपयोग किए जाने वाले कुछ बेस मॉडल करोड़ों छवियों पर प्रशिक्षित (train) किए गए थे और इनमें कोई भी बिल्ट-इन कंटेंट प्रतिबंध मौजूद नहीं है। इनमें से किसी के लिए भी अब किसी विशेष हार्डवेयर की आवश्यकता नहीं है — कुछ साल पुराना एक मिड-टियर गेमिंग लैपटॉप ही काफी है।

फिर इसका पैकेज्ड संस्करण आता है: तथाकथित "nudify" ऐप्स जो इस पूरी जटिल प्रक्रिया को एक बटन के पीछे छिपा देते हैं। कपड़े पहने हुए व्यक्ति की फोटो अपलोड करें, कुछ सेकंड इंतज़ार करें, और एक फर्जी न्यूड तस्वीर प्राप्त करें। हालिया पारदर्शिता रिपोर्टों में प्रमुख ऐप स्टोरों पर ऐसे दर्जनों ऐप पाए गए, जिनके कुल मिलाकर सैकड़ों मिलियन (करोड़ों) डाउनलोड थे। यदि इसके आकर्षक इंटरफ़ेस और पेमेंट वॉल को हटा दिया जाए, तो यह वही ओपन-सोर्स डिफ्यूज़न (diffusion) तकनीक है जिसे कोई भी अपने घर पर चला सकता है।

ओपन वेट्स (open weights) का मतलब है कि इसका कोई ऑफ स्विच (off switch) नहीं है

यह वह पहलू है जिसे अधिकांश चिंताजनक विचार-विमर्शों (think pieces) में नज़रअंदाज़ कर दिया जाता है: ये मॉडल ओपन वेट्स (open weights)हैं। एक बार जारी होने के बाद, मॉडल के पैरामीटर एक फ़ाइल के रूप में मौजूद रहते हैं — और वह फ़ाइल अब दुनिया भर की दसों हज़ार हार्ड ड्राइव में सुरक्षित है। आप इसे वापस नहीं ले सकते। इसे रिमोटली हटाने के लिए कोई पैच जारी नहीं कर सकते। कोई केंद्रीय सर्वर (central server) नहीं है जिससे अनुरोध गुज़रते हों, इसे चलाने वाले व्यक्ति पर कोई सेवा की शर्तें (terms of service) लागू नहीं होतीं, और ऐसी कोई कंपनी नहीं है जो यह भी देख सके कि क्या जनरेट किया जा रहा है, रोकने की बात तो दूर की है।

AI-जनरेटेड पोर्नोग्राफी को नियंत्रित करने पर ज़्यादातर चर्चाओं में यह मान लिया जाता है कि एक चोकपॉइंट (नियंत्रण बिंदु) मौजूद है — जिस तरह एक प्लेटफॉर्म स्विच दबाकर किसी श्रेणी की सामग्री को गायब कर सकता है। ओपन-वेट मॉडल बिना किसी चोकपॉइंट के बनाए गए थे। इमेज जनरेशन पूरी तरह से किसी के अपने डिवाइस पर होता है, यदि वे चाहें तो ऑफ़लाइन भी, जो किसी भी बाहरी पर्यवेक्षक को दिखाई नहीं देता। मैं इन मॉडलों को बिना किसी इंटरनेट कनेक्शन के लैपटॉप पर चला सकता हूँ। और कोई भी अन्य व्यक्ति भी ऐसा कर सकता है।

यही वह विशेषता है जो लोकल मॉडलों को वैध कार्यों के लिए वास्तव में मूल्यवान बनाती है — कोई प्रति-अनुरोध शुल्क (per-request billing) नहीं, किसी ऐसे विक्रेता (vendor) पर निर्भरता नहीं जो बंद हो सकता है या नियम बदल सकता है, और संवेदनशील डेटा के लिए वास्तविक गोपनीयता। यह तकनीक क्लाइंट कोड की सुरक्षा करने वाले डेवलपर और बिना सहमति के फर्जी तस्वीर बनाने वाले किसी अजनबी के बीच अंतर नहीं करती। आप नुकसानदेह इस्तेमाल को सक्षम बनाए बिना इसके लाभदायक उपयोग का लाभ नहीं उठा सकते। यह कोई ऐसा बग नहीं है जिसे कोई सुधारना (patch करना) भूल गया हो। यह इस बात की अंतर्निहित विशेषता (inherent feature) है कि यह तकनीक कैसे काम करती है।

जिन्हें निशाना बनाया जा रहा है वे ज़्यादातर बच्चे हैं, मशहूर हस्तियां नहीं

डीपफेक पर सार्वजनिक ध्यान मुख्य रूप से मशहूर हस्तियों और राजनेताओं पर केंद्रित रहा है, जिससे यह समस्या दूर की और दुर्लभ लगती है। जबकि वास्तविक स्थिति कहीं अधिक आम और हमारे बहुत करीब है।

इंग्लैंड में शिक्षकों के सर्वेक्षणों से पता चला कि एक उल्लेखनीय हिस्सा पहले से ही जानता है कि कोई छात्र अपने सहपाठी की फर्जी अश्लील तस्वीरें बनाने के लिए इन टूल्स का उपयोग कर रहा है। अन्य शोध बताते हैं कि स्कूलों में प्रसारित होने वाले अधिकांश डीपफेक पोर्नोग्राफी में चौदह वर्ष से कम उम्र के बच्चों — कुछ तो 11 वर्ष जितने छोटे बच्चों को निशाना बनाया जाता है। पेनसिल्वेनिया के एक हाई स्कूल के व्यापक रूप से रिपोर्ट किए गए मामले में, एक अकेले छात्र ने सोशल मीडिया से ली गई साधारण तस्वीरों का उपयोग करके अपने पांच सहपाठियों की फर्जी अश्लील तस्वीरें बनाईं। व्यापक किशोर सर्वेक्षणों से पता चलता है कि अमेरिकी किशोरों का एक बड़ा हिस्सा व्यक्तिगत रूप से किसी ऐसे व्यक्ति को जानता है जिसे नाबालिग रहते हुए इस तरह निशाना बनाया गया था।

बाल-सुरक्षा का पहलू ही वह कारक है जिससे इस बात पर बचा हुआ कोई भी विवाद समाप्त हो जाना चाहिए कि यह कितना गंभीर विषय है। बाल यौन शोषण सामग्री के लिए मुख्य अमेरिकी रिपोर्टिंग प्रणाली चलाने वाले संगठन ने AI-जनरेटेड सामग्री से जुड़ी रिपोर्टों में साल-दर-साल भारी वृद्धि दर्ज की। कम से कम एक विदेशी "nudify" सेवा से लीक हुए डेटा में कथित तौर पर उन्हें बनाने के लिए इस्तेमाल किए गए प्रॉमप्ट्स के साथ दसों हज़ार जनरेटेड तस्वीरें संग्रहीत थीं। अब यह कोई काल्पनिक जोखिम नहीं है — यह जो कुछ पहले ही घटित हो चुका है उसका एक प्रामाणिक पैटर्न है।

जिस बात को स्वीकार करना सबसे कठिन है, वह यह है कि अपराधी अक्सर कितने सामान्य होते हैं: कोई जटिल या शातिर अपराधी नहीं, बल्कि सिर्फ एक बोर हो रहा किशोर, जिसके पास फोन है और एक ऐसा ऐप है जो हाल तक मुख्यधारा के ऐप स्टोरों में आसानी से मिल जाता था। जो बाधा पहले इसे कठिन बनाती थी, ठीक वही बाधा अब गायब हो चुकी है।

डिटेक्शन (पहचान) एक ऐसी दौड़ है जिसे रक्षक लगातार हार रहे हैं

सांत्वना देने वाला तर्क यह है कि यदि डीपफेक असली जैसे लगने लगेंगे, तो डिटेक्शन टूल्स (पहचान करने वाले उपकरण) भी उसी गति से आगे बढ़ेंगे। लेकिन साक्ष्य कुछ और ही बताते हैं — यह एक ट्रेडमिल की तरह है, कोई फ़िनिश लाइन नहीं।

कोई भी डिटैक्टर (detector) लंबे समय तक स्थिर सटीकता का रिकॉर्ड नहीं रख पाता, क्योंकि स्थितियां बदलते ही इसका प्रदर्शन गिर जाता है। एक मॉडल जो किसी साफ़ बेंचमार्क डेटासेट पर अच्छा प्रदर्शन करता है, वह वास्तविक दुनिया की छवियों पर अक्सर काफी खराब प्रदर्शन करता है — जो कंप्रेस होती हैं, क्रॉप की जाती हैं, स्क्रीनशॉट ली जाती हैं और फिर से शेयर की जाती हैं, और हर कदम पर वे सूक्ष्म निशान (artifacts) मिट जाते हैं जिन पर डिटैक्टर निर्भर होते हैं। इससे भी बुरी बात यह है कि यह संरचनात्मक रूप से एक विरोधी लूप (adversarial loop) है: शोधकर्ता डिटेक्शन के तरीके प्रकाशित करते हैं, जनरेटिव मॉडल बनाने वाले लोग उन शोध पत्रों को पढ़ते हैं, और अगली पीढ़ी के मॉडलों को ठीक उन्हीं संकेतों को खत्म करने के लिए ट्यून किया जाता है जो उन्हें पकड़वाते थे।

रक्षकों के पीछे रहने का एक संरचनात्मक कारण है। नुकसान पहुँचाने के लिए एक जनरेटर को डिटैक्टर को केवल एक बार धोखा देने की आवश्यकता होती है। जबकि एक डिटैक्टर को हर मॉडल और छवि में बदलाव के हर तरीके के बावजूद लगभग हर बार सही होना पड़ता है, वह भी असली तस्वीरों को गलत तरीके से फ्लैग किए बिना। ये दोनों समान बोझ नहीं हैं — एक पक्ष को सिर्फ एक सफलता की आवश्यकता है, जबकि दूसरे पक्ष को लगभग पूर्ण और निरंतर सटीकता की आवश्यकता है। इस क्षेत्र का हर ईमानदार मूल्यांकन इसी निष्कर्ष पर पहुँचता है: डिटेक्शन कभी भी स्थायी रूप से नहीं जीतता, यह केवल एक अस्थायी बढ़त बनाए रखता है जिसे अगला मॉडल रिलीज़ मिटा देता है।

कानून गलत परत (layer) को निशाना बनाता है

इनमें से किसी का भी यह मतलब नहीं है कि कुछ नहीं किया जा रहा है। संयुक्त राज्य अमेरिका में, Take It Down Act — जिस पर 2025 में हस्ताक्षर कर कानून बनाया गया था — बिना सहमति के अंतरंग छवियों के प्रकाशन को अपराध घोषित करता है, जिसमें वास्तविक, पहचानने योग्य लोगों के AI-जनरेटेड फर्जी चित्र शामिल हैं, और वैध अनुरोध के 48 घंटों के भीतर प्लेटफॉर्मों को चिह्नित सामग्री को हटाने की आवश्यकता होती है। अनुपालन करने वाली टेकडाउन प्रणालियों को बनाने के लिए प्लेटफॉर्मों के पास 2026 के मध्य तक का समय था, और इस कानून के तहत पहली सजा पहले ही हो चुकी है। अधिकांश अमेरिकी राज्यों के पास अब अश्लील डीपफेक से निपटने के लिए अपने कानून भी हैं। वह प्रगति वास्तविक है और स्वीकार करने योग्य है।

लेकिन देखें कि कानून वास्तव में किस पर नियंत्रण करता है: प्रकाशन और वितरण — वह क्षण जब सामग्री किसी डिवाइस को छोड़कर किसी प्लेटफॉर्म तक पहुँचती है। दबाव डालने के लिए यह एक समझदारी भरी जगह है, क्योंकि प्लेटफॉर्म एक वास्तविक चोकपॉइंट बने हुए हैं। लेकिन कानून जिस चीज़ को छू भी नहीं सकता, वह है स्वयं इमेज जनरेशन। यह किसी के लैपटॉप पर पड़ी मॉडल फ़ाइल तक नहीं पहुँच सकता, या किसी मैसेजिंग ऐप के माध्यम से निजी तौर पर बनाई और साझा की गई छवि तक नहीं पहुँच सकता जो कभी प्लेटफ़ॉर्म समीक्षा को ट्रिगर नहीं करती, या ग्रुप चैट में भेजी गई तस्वीर तक नहीं पहुँच सकता। टेकडाउन (takedown) एक ऐसा उपाय है जो नुकसान सार्वजनिक होने के बाद ही सक्रिय होता है। उस छात्र के लिए जिसके सहपाठी पहले ही एक फर्जी छवि देख चुके हैं, त्वरित निष्कासन (removal window) उस नुकसान को खत्म नहीं कर सकता जो पहले ही हो चुका है।

इसका मतलब यह नहीं है कि कानून बेकार है — इस सामग्री को वितरित करने की कीमत बढ़ाना महत्वपूर्ण है। लेकिन टेकडाउन कानूनों को ही समाधान मानना उस एक परत को भूलने की गलती करना है जो विनियमित है, जबकि उससे कहीं बड़ी परत विनियमित नहीं है। जनरेशन किसी भी टेकडाउन व्यवस्था की पहुँच से नीचे होता है, और यही वह परत है जो पहले ही नियंत्रण से बाहर हो चुकी है।

"रोकना असंभव है" ही सच्चा और ईमानदार जवाब क्यों है

यह हार मानने का आह्वान नहीं है — यह समस्या का सटीक निदान करने का आह्वान है, क्योंकि गलत निदान से गलत प्रतिक्रिया होती है।

आप किसी ऐसे मॉडल का रिलीज़ वापस नहीं ले सकते जिसे हज़ारों मशीनों में कॉपी किया जा चुका है। आप फ़ोटोरीअलिस्टिक जनरेशन को फिर से कठिन नहीं बना सकते। आप ऐसा डिटैक्टर नहीं बना सकते जो हमेशा के लिए आगे रहे, और आप ऐसा कानून नहीं बना सकते जो किसी के अपने हार्डवेयर पर निजी तौर पर होने वाली संगणना (computation) तक पहुँच सके। वास्तव में मदद करने वाला हर हस्तक्षेप (intervention) जनरेशन के बाद के स्तर पर काम करता है: तेज़ और अधिक सुसंगत टेकडाउन, वितरण के लिए वास्तविक कानूनी परिणाम, ऐप स्टोरों का इस उद्देश्य से बनाए गए ऐप्स के खिलाफ नीतियों को वास्तव में लागू करना, और स्कूलों द्वारा बच्चों के साथ इस बारे में ईमानदारी से बात करना जैसा कि उन्होंने स्क्रीन के माध्यम से आने वाले अन्य नुकसानों से निपटना सीखा था। ये सब करने योग्य हैं — लेकिन ये नुकसान को कम करने (harm reduction) के उपाय हैं, रोकथाम (prevention) नहीं।

यह तकनीक खतरनाक है, यह चेतावनी देने वाले निबंधों का खतरा तो सही है। लेकिन वे जहाँ गलत साबित होते हैं, वह यह मान लेना है कि इसका इलाज अभी भी उपलब्ध है। उपकरण पहले से ही लाखों उपकरणों में वितरित किए जा चुके हैं। वह बाधा जो कभी लोगों की रक्षा करती थी, अब खत्म हो चुकी है और वापस नहीं आने वाली। असहज करने वाला सच यह है कि जिस हिस्से को हर कोई रोकने की उम्मीद कर रहा था, वह पहले ही घटित हो चुका है — चुपचाप, जब सार्वजनिक बहस अभी भी यह पूछ रही थी कि क्या यह आ रहा है।