फेक न्यूड्स: महिलांचे डिजिटली कपडे काढणारं अॅप बंद

स्त्रियांच्या फोटोमधले कपडे डिजिटली काढून त्यांच्या खोट्या नग्न प्रतिमा तयार करणारं अॅप संबंधित कंपनीनं अखेर मागे घेतलं आहे. Deepnude हे स्त्रियांचे नग्न फोटो तयार करणारं अॅप होतं

50 डॉलर किमतीच्या या अॅपविषयी 'मदरबोर्ड' या टेक न्यूज वेबसाईटवर एक लेख प्रसिद्ध झाला होता. या लेखामुळे सगळ्यांचं लक्ष Deepnude अॅपकडे वेधलं गेलं. त्यानंतर त्यावर टीका व्हायला लागली.

'रिव्हेंज पॉर्न' म्हणजेच सूड उगारण्यासाठी करण्यात येणारं चारित्र्यहनन ही जगभरात मोठी समस्या आहे. 'रिव्हेंज पॉर्न'विरुद्ध लढा देणाऱ्या एका कार्यकर्त्याने या अॅपला 'अत्यंत भयावह' म्हटलं आहे.

जग सध्या या अॅपसाठी तयार नसल्याचं म्हणत निर्मात्यांनी आपल्या वेबसाईटवरून हे अॅप काढलं आहे.

"लोकांकडून या अॅपचा गैरवापर होण्याची खूप जास्त शक्यता आहे. अशा पद्धतीने आम्हाला पैसा कमवायचा नाही," अशी भूमिका मांडणारं ट्वीट अॅप बनवणाऱ्या प्रोग्रॅमरने केलं आहे.

ज्यांनी हे अॅप विकत घेतलंय त्या सर्वांना त्यांचे पैसे परत मिळणार आहेत. या अॅपचं दुसरं कुठलंही व्हर्जन उपलब्ध नाही तसंच हे अॅप वापरण्याचे अधिकार आम्ही काढून घेत आहोत, असंही कंपनीनं म्हटलं आहे.

या अॅपद्वारे तयार करण्यात आलेला फोटो शेअर न करण्याचं आवाहन कंपनीनं केलं आहे. ज्यांनी आधी हे अॅप डाऊनलोड केलं आहे, त्यांचं अॅप मात्र सुरू राहणार आहे.

काही महिन्यांपूर्वी केवळ 'मनोरंजन' म्हणून हे अॅप तयार करण्यात आलं होतं, असं अॅप बनवणाऱ्या टीमनं सांगितलं. त्यांनी एक वेबसाईट तयार करून या अॅपचे विंडोज आणि लिनक्स व्हर्जन बाजारात आणलं.

हा प्रोग्राम दोन व्हर्जनमध्ये उपलब्ध आहे. एक व्हर्जन मोफत आहे. ज्यात या अॅपद्वारे तयार करण्यात आलेल्या फोटोवर 'FAKE' म्हणजेच खोटं असा एक मोठा वॉटरमार्क येतो. दुसरं पेड व्हर्जन आहे. यात फोटोवर अगदी बारीक अक्षरात 'FAKE'चा वॉटरमार्क असतो.

"खरं सांगायचं तर हे अॅप फार उत्कृष्ट नाही. काही विशिष्ट फोटोंसाठीच ते उपयुक्त आहे," असं कंपनीनं म्हटलं होतं. तरीही 'मदरबोर्ड'मध्ये आलेल्या लेखानंतर अॅप डाऊनलोड करण्यासाठी कंपनीच्या वेबसाइटवर लोकांची इतकी गर्दी झाली की वेबसाइट क्रॅश झाली होती.

Badass या 'रिव्हेंज पॉर्न'विरोधी मोहिमेच्या संस्थापिका केटलीन बोडेन यांनी 'मदरबोर्ड'शी बोलताना हे अॅप 'अत्यंत भयावह' असल्याचं म्हटलं.

त्या म्हणाल्या, "कोणी स्वतःचा नग्न फोटो काढला नाही, तरी या अॅपमुळे ती व्यक्ती रिव्हेंज पॉर्नचा बळी ठरू शकते. हे तंत्रज्ञान सर्वसामान्यांच्या हाती पडता कामा नये."

या प्रोग्राममध्ये Artificial Intelligence (AI) म्हणजेच कृत्रिम प्रज्ञेच्या आधारे एखाद्या स्त्रिच्या फोटोतले कपडे न्यूरल नेटवर्क्सच्या माध्यमातून काढून अगदी खरीखुरी भासेल अशी न्यूड प्रतिमा तयार केली जाते.

फोटोमध्ये जिथेजिथे कपडे असतात, तिथे हे नेटवर्क्स काम करतात. फोटोतल्या स्त्रिच्या रंगासारखा रंग, प्रकाशयोजन (लाइटिंग) आणि छाया (शॅडो) यांच्या सहाय्याने कपडे असलेल्या ठिकाणी मास्क केलं जातं. म्हणजे तिथला रंग बदलतात आणि सरतेशेवटी शारीरिक अवयवांचे बारकावे रेखाटले जातात.

व्हीडिओंशी छेडछाड करून अगदी खरे वाटतील असे बनावट किंवा खोटे व्हीडिओ तयार करण्यासाठी वापरण्यात येणाऱ्या तंत्रज्ञानासारखंच हे तंत्रज्ञान आहे. अशा खोट्या व्हीडिओला Deepfake म्हणतात. पूर्वी सेलिब्रिटींचे पॉर्नोग्राफिक डीपफेक्स तयार करण्यासाठी हे तंत्रज्ञान वापरलं जायचं.