ब्लूमबर्ग की एक रिपोर्ट से पता चला है कि तस्वीरों में महिलाओं के कपड़े उतारने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करने वाले ऐप्स और वेबसाइटों की लोकप्रियता में चिंताजनक वृद्धि ने शोधकर्ताओं और गोपनीयता अधिवक्ताओं का ध्यान आकर्षित किया है। सोशल नेटवर्क विश्लेषण कंपनी ग्राफिका ने खुलासा किया कि अकेले सितंबर में 24 मिलियन लोगों ने इन कपड़े उतारने वाली वेबसाइटों का दौरा किया, जो कृत्रिम बुद्धिमत्ता में प्रगति के कारण गैर-सहमति वाली अश्लीलता में चिंताजनक वृद्धि को उजागर करता है।
तथाकथित “न्यूडिफाई” सेवाएं मार्केटिंग के लिए लोकप्रिय सोशल नेटवर्क का उपयोग कर रही हैं, साल की शुरुआत के बाद से एक्स और रेडिट जैसे प्लेटफार्मों पर कपड़े उतारने वाले ऐप्स का विज्ञापन करने वाले लिंक की संख्या 2,400 प्रतिशत से अधिक बढ़ गई है। ये सेवाएँ व्यक्तियों को डिजिटल रूप से कपड़े उतारने के लिए एआई तकनीक का उपयोग करती हैं, मुख्य रूप से महिलाओं पर ध्यान केंद्रित करती हैं। यह प्रसार गंभीर कानूनी और नैतिक चुनौतियाँ प्रस्तुत करता है, क्योंकि तस्वीरें अक्सर विषय की सहमति या जानकारी के बिना सोशल मीडिया से ली जाती हैं।
चिंताजनक प्रवृत्ति संभावित उत्पीड़न तक फैली हुई है, क्योंकि कुछ विज्ञापनों में सुझाव दिया गया है कि ग्राहक नग्न तस्वीरें बना सकते हैं और उन्हें डिजिटल रूप से नग्न व्यक्ति को भेज सकते हैं। जवाब में, Google ने विज्ञापनों में स्पष्ट यौन सामग्री के खिलाफ अपनी नीति बताई है और उल्लंघनकारी सामग्री को सक्रिय रूप से हटा रहा है। हालाँकि, एक्स और रेडिट ने अभी तक टिप्पणियों के अनुरोधों का जवाब नहीं दिया है।
गोपनीयता विशेषज्ञ एआई तकनीक में प्रगति के कारण डीपफेक पोर्नोग्राफ़ी की बढ़ती पहुंच के बारे में चेतावनी दे रहे हैं। इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन में साइबर सुरक्षा के निदेशक ईवा गैल्परिन, हाई स्कूल और कॉलेज के छात्रों सहित रोजमर्रा के लक्ष्यों पर इन प्रौद्योगिकियों का उपयोग करने वाले आम लोगों की ओर एक बदलाव पर ध्यान देते हैं। कई पीड़ित इन छेड़छाड़ की गई छवियों से अनजान रह सकते हैं, और जो लोग कानून प्रवर्तन हस्तक्षेप की मांग करने या कानूनी कार्रवाई करने में चुनौतियों का सामना करते हैं।
बढ़ती चिंताओं के बावजूद, वर्तमान में संयुक्त राज्य अमेरिका में डीपफेक पोर्नोग्राफ़ी के निर्माण पर स्पष्ट रूप से रोक लगाने वाला कोई संघीय कानून नहीं है। उत्तरी कैरोलिना में एक हालिया मामला, जहां एक बाल मनोचिकित्सक को रोगी की तस्वीरों पर कपड़े उतारने वाले ऐप्स का उपयोग करने के लिए 40 साल की सजा सुनाई गई थी, यह बाल यौन शोषण सामग्री की गहरी पीढ़ी पर प्रतिबंध लगाने वाले कानून के तहत पहला मुकदमा है।
खतरनाक प्रवृत्ति के जवाब में, टिकटॉक और मेटा प्लेटफ़ॉर्म इंक ने इन अनड्रेसिंग ऐप्स से जुड़े कीवर्ड को ब्लॉक करने के लिए कदम उठाए हैं। टिकटॉक ने उपयोगकर्ताओं को चेतावनी दी है कि “अनड्रेस” शब्द उसके दिशानिर्देशों का उल्लंघन करने वाली सामग्री से जुड़ा हो सकता है, जबकि मेटा प्लेटफ़ॉर्म इंक ने अपने कार्यों पर और टिप्पणियां देने से इनकार कर दिया।
जैसे-जैसे तकनीक विकसित हो रही है, डीपफेक पोर्नोग्राफ़ी द्वारा उत्पन्न नैतिक और कानूनी चुनौतियाँ व्यक्तियों को एआई-जनरेटेड सामग्री के गैर-सहमति और हानिकारक उपयोग से बचाने के लिए व्यापक नियमों की तत्काल आवश्यकता को रेखांकित करती हैं।
