महिलाओं और बच्चों की तस्वीरों की सुरक्षा से जुड़े सवालों पर बीबीसी न्यूज़ हिन्दी ने साइबर एक्सपर्ट्स से बात की.

साइबर एक्सपर्ट और सुप्रीम कोर्ट के वकील विराग गुप्ता कहते हैं, “सुप्रीम कोर्ट ने 2017 के पुट्टस्वामी मामले के फ़ैसले में संविधान के अनुच्छेद 21 के तहत निजता को जीवन के अधिकार की मान्यता दी थी.”

विराग गुप्ता बताते हैं, “अनुमति के बग़ैर महिलाओं की अश्लील तस्वीरें बनाना और उनका प्रसारण करना असंवैधानिक होने के साथ आईटी एक्ट-2000, भारतीय न्याय संहिता-2023, इनडिसेंट रिप्रज़ेंटेशन ऑफ़ विमन (प्रोहिबिशन एक्ट 1986), पॉक्सो 2012 क़ानून के तहत गंभीर अपराध है.”

वहीं संयुक्त राष्ट्र डिजिटल पब्लिक गुड्स प्राइवेसी स्टैंडर्ड की मानद सलाहकार और एडवोकेट पुनीत भसीन बताती हैं, “आईटी एक्ट की धारा 67 के तहत, साइबर पोर्नोग्राफ़ी को एक गंभीर अपराध माना जाता है. अगर किसी एआई टूल के ज़रिए ग़ैर-सहमति वाली या बच्चों से जुड़ी अश्लील सामग्री बनाई जाती है, तो इसकी आपराधिक ज़िम्मेदारी यूज़र के साथ-साथ प्लेटफ़ॉर्म पर भी बनती है.”

पुनीत भसीन कहती हैं, “ऐसी सामग्री बनाने वाले यूज़र अपराधी माने जाते हैं. चाइल्ड पोर्नोग्राफ़ी आईटी एक्ट के तहत एक गंभीर अपराध है, जिसमें सज़ा सामान्य पोर्नोग्राफ़िक सामग्री की तुलना में अधिक कड़ी है क्योंकि इसमें नाबालिग़ और बच्चे शामिल होते हैं.”

भारतीय न्याय संहिता के अनुसार महिलाओं और बच्चों के ख़िलाफ़ डिजिटल यौन उत्पीड़न संज्ञेय और ग़ैर-ज़मानती अपराध है, जिसमें बिना वारंट गिरफ़्तारी हो सकती है.

विराग गुप्ता कहते हैं, “इंटरनेट कंपनियों को ‘इंटरमीडियरी’ होने के नाते सेफ़ हार्बर की क़ानूनी सुरक्षा मिलती है, लेकिन यह तभी लागू होती है जब वे आईटी इंटरमीडियरी नियम 2021 का पालन करें. इन नियमों के तहत अश्लील और ग़ैर-क़ानूनी कंटेंट को हटाना, रिपोर्टिंग सिस्टम और शिकायत निवारण तंत्र रखना अनिवार्य है.”

पुनीत भसीन बताती हैं कि ज़्यादातर प्लेटफ़ॉर्म्स का बिज़नेस मॉडल वायरल होने पर टिका होता है, जहां ज़्यादा व्यूज़, डाउनलोड और यूज़ से ग्रोथ होती है. शुरुआती दौर में कई प्लेटफ़ॉर्म्स विवादास्पद तरीके़ अपनाते हैं, क्योंकि अच्छी हो या बुरी पब्लिसिटी, लेकिन पब्लिसिटी ही होती है.

भसीन कहती हैं, “ग्रोक एआई के मामले में यह इंटेंशनल लगता है या अनइंटेंशनल, यह कहना मुश्किल है. लेकिन इस विवाद से उन लोगों को भी इसके बारे में पता चल गया होगा, जिन्होंने कभी ग्रोक का इस्तेमाल नहीं किया. इस तरह की नेगेटिव पब्लिसिटी से प्लेटफ़ॉर्म की रीच और अवेयरनेस बढ़ती है, जो इनिशियल यूज़र बेस बनाने में मदद करती है, भले ही क़ानूनी और एथिकल समस्याएं पैदा हों.”

हालांकि, विराग गुप्ता कहते हैं, “ग्रोक प्लेटफ़ॉर्म में सुरक्षा फ़िल्टर और मॉडरेशन की व्यवस्था ठीक काम नहीं कर रही है, जो कंपनी की विफलता दिखाता है. एक्स और ग्रोक दोनों कंपनियों की सामूहिक विफलता की वजह से लाखों महिलाओं का अश्लील और अपमानजनक चित्रण हुआ है, जिसके लिए भारत में उनकी क़ानूनी और आपराधिक जवाबदेही तय होनी चाहिए.”

बिना सहमति के न्यूड या इंटिमेट या कोई भी हानिकारक कंटेंट सर्कुलेट होने पर पुनीत भसीन तुरंत कार्रवाई करने की सलाह देती हैं.

ऐसे मामलों में क्या करना चाहिए. इसके बारे में वह बताती हैं-

बीबीसी के लिए कलेक्टिव न्यूज़रूम की ओर से प्रकाशित