दुनियाभर में तीखी आलोचना और सरकारी दबावों के बाद एलन मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म एक्स ने गुरुवार को अपने एआई चैटबॉट ग्रोक के आपत्तिजनक तस्वीर एडिटिंग फीचर को तत्काल प्रभाव से बंद कर दिया है, अब ग्रोक किसी भी स्थिति में महिलाओं की अशोभनीय या अस्वीकृत डीपफेक तस्वीरें नहीं बना पाएगा, भले ही यूजर प्रीमियम अकाउंट का मालिक क्यों न हो।
एक्स के सेफ्टी अकाउंट ने पोस्ट के जरिए कहा कि प्लेटफॉर्म पर तकनीकी बदलाव लागू कर दिए गए हैं, इसके बाद ग्रोक असली लोगों की तस्वीरों को बिकिनी या अन्य खुले कपड़ों में एडिट नहीं कर सकेगा, यह नियम सभी यूजर्स पर लागू रहेगा जिनमें पेड सब्सक्राइबर भी शामिल हैं।
ग्रोक के स्पाइसी मोड को लेकर कई देशों में विरोध और नाराजगी दर्ज की गई थी, इस मोड के जरिए महिलाएं और बच्चों को लेकर अश्लील डीपफेक कंटेंट आसानी से तैयार किया जा सकता था, जैसे कपड़े हटाने या किसी को बिकिनी में दिखाने जैसे गंभीर मामले सामने आए।
इस विवाद के बाद कई देशों ने ग्रोक पर प्रतिबंध लगाना शुरू किया या उसकी जांच शुरू कर दी, भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने भी एक्सएआई से इस मामले में विस्तृत रिपोर्ट मांगी, वहीं अमेरिका के कैलिफोर्निया के अटॉर्नी जनरल ने डेवलपर के खिलाफ जांच शुरू की।
टेक इंडस्ट्री और नागरिक समूहों ने भी कड़ा रुख अपनाया, 28 सामाजिक संगठनों ने एप्पल और गूगल के सीईओ को पत्र लिखकर ग्रोक और एक्स ऐप को ऐप स्टोर से हटाने की मांग की, उनका आरोप था कि अश्लील डीपफेक तस्वीरों की संख्या तेजी से बढ़ रही है और यह बाल सुरक्षा व निजता अधिकारों पर हमला है।
अब एक्स ने तस्वीर एडिटिंग और जनरेशन फीचर को पेड यूजर्स तक सीमित कर दिया है, पहले यह केवल प्रीमियम यूजर्स के लिए खुला था, अब इसे और सख्त बनाकर एक अतिरिक्त सुरक्षा परत जोड़ी गई है जिससे उल्लंघन की स्थिति में कानूनी कार्रवाई आसान होगी।
प्लेटफॉर्म ने साफ किया कि बाल यौन शोषण सामग्री और बिना अनुमति की नग्न तस्वीरें जैसे गंभीर नियम उल्लंघन वाले कंटेंट को तुरंत हटाया जाएगा, साथ ही ऐसे अकाउंट्स पर सख्त कार्रवाई की जाएगी जिनमें प्लेटफॉर्म बैन, रिपोर्टिंग और कानूनन जांच शामिल हो सकती है।
दिसंबर में भारत सरकार ने एक्स को निर्देश जारी कर कहा था कि कानून विरुद्ध डीपफेक या अश्लील कंटेंट को हटाया जाए और ग्रोक का दुरुपयोग करने वाले अकाउंट्स को निलंबित किया जाए, मंत्रालय ने चेतावनी दी कि नियम लागू न होने पर कठोर कदम उठाए जाएंगे।
रिपोर्ट्स के अनुसार भारत में एक्स ने ग्रोक के माध्यम से बनाई गई करीब 3500 अश्लील डीपफेक तस्वीरें हटाईं, जबकि लगभग 600 यूजर्स को ब्लॉक या प्रतिबंधित किया गया, इन यूजर्स पर महिलाओं और बच्चों की तस्वीरों का गलत उपयोग करने का आरोप था।