मौजूदा दौर में सोशल मीडिया की उपयोगिता लगातार बढ़ रही है और लोग इसके बिना शायद ही एक पल रह पाते हों। सोशल मीडिया के माध्यम से लोग लगातार नए-नए प्रयोग करते नजर आते हैं, जिसमें एआई (आर्टिफिशियल इंटेलिजेंस) भी अहम भूमिका निभा रहा है।
एआई की मदद से लोग तस्वीरों और वीडियो में बदलाव कर उन्हें सोशल मीडिया पर पोस्ट कर रहे हैं, जिससे कंटेंट निर्माण के नए ट्रेंड सामने आ रहे हैं।
इस बीच सोशल मीडिया प्लेटफॉर्म X ने Grok AI से जुड़े अश्लील कंटेंट विवाद में अपनी चूक स्वीकार कर ली है। कंपनी ने भारत सरकार को आश्वासन दिया है कि वह भारतीय कानूनों और आईटी नियमों का पूरी तरह पालन करेगी।
इस मामले में X ने अब तक करीब 3,500 पोस्ट को ब्लॉक किया है, जबकि 600 से अधिक अकाउंट्स को स्थायी रूप से हटाया गया है।
सरकार की सख्ती के बाद कंपनी ने कंटेंट मॉडरेशन प्रणाली को और मजबूत करने का वादा किया है। यह कार्रवाई ऑनलाइन अश्लीलता, महिला विरोधी कंटेंट और डिजिटल प्लेटफॉर्म्स पर बढ़ते दुरुपयोग को लेकर बढ़ती चिंताओं के बीच की गई है।
क्या है पूरा ‘बवाल’?
Grok AI ने अपना इमेज जनरेशन फीचर तो लॉन्च कर दिया, लेकिन इसके सेफ्टी फिल्टर्स शायद ‘वेकेशन’ पर चले गए हैं!
यूजर्स इस AI का इस्तेमाल सेलिब्रिटीज और आम महिलाओं की ‘अश्लील फोटोज बनाने के लिए यूज कर रहे हैं। सबसे शॉकिंग बात तो ये है कि इसमें मासूम बच्चों तक को टारगेट किया जा रहा है। रिपोर्ट्स के मुताबिक, Grok बिना किसी रोक-टोक के ऑब्जेक्शनेबल इमेजेस जेनरेट कर रहा है।
भारत सरकार ने सोशल मीडिया प्लेटफॉर्म X के एआई टूल Grok के जरिए अश्लील और आपत्तिजनक कंटेंट के प्रसार पर गंभीर आपत्ति जताई थी। सरकारी एजेंसियों के अनुसार, Grok का दुरुपयोग फर्जी प्रोफाइल बनाने के साथ-साथ महिलाओं को ऑनलाइन परेशान करने और उन्हें निशाना बनाने में किया जा रहा था। आरोप है कि इमेज एडिटिंग, सिंथेटिक कंटेंट और गलत प्रॉम्प्ट्स के ज़रिये महिलाओं की तस्वीरों और वीडियो के साथ छेड़छाड़ कर उन्हें सोशल मीडिया पर प्रसारित किया गया।
इन गंभीर चिंताओं को देखते हुए सरकार ने X को कड़ी कार्रवाई की चेतावनी दी थी और पूरे मामले पर विस्तृत रिपोर्ट भी मांगी थी।
एलन मस्क का AI बॉट ‘Grok’ इस समय कूल बनने के चक्कर में ‘रेड ज़ोन’ में एंट्री कर चुका है। भारत के IT मंत्रालय ने ‘X’ (ट्विटर) को एक कड़क नोटिस थमाते हुए सीधा हिसाब मांगा है। मामला सिर्फ खराब कोडिंग का नहीं, बल्कि डिग्निटी और डिजिटल सेफ्टी का है।
क्या है पूरा ‘बवाल’?
Grok AI ने अपना इमेज जनरेशन फीचर तो लॉन्च कर दिया, लेकिन इसके सेफ्टी फिल्टर्स शायद ‘वेकेशन’ पर चले गए हैं!
यूजर्स इस AI का इस्तेमाल सेलिब्रिटीज और आम महिलाओं की ‘अश्लील फोटोज बनाने के लिए यूज कर रहे हैं। सबसे शॉकिंग बात तो ये है कि इसमें मासूम बच्चों तक को टारगेट किया जा रहा है। रिपोर्ट्स के मुताबिक, Grok बिना किसी रोक-टोक के ऑब्जेक्शनेबल इमेजेस जेनरेट कर रहा है।
सरकार का ‘एक्शन’: नो मोर एक्सक्यूज़िस!
भारत सरकार ने साफ कर दिया है कि इंटरनेट किसी की ‘पर्सनल जागीर’ नहीं है। IT मंत्रालय का स्टैंड क्लियर है:
• ये हरकत IT Act, 2000 और 2021 के कड़े नियमों का सीधा वॉइलेशन है। बिना मर्जी के किसी की फोटो के साथ छेड़छाड़ करना ‘डिजिटल क्राइम’ की कैटेगरी में आता है।
• सरकार ने मस्क से पूछा है की सिस्टम कब सुधारोगे?” AI को तमीज सिखाना अब प्लेटफॉर्म की कानूनी जिम्मेदारी है।
मस्क का ‘स्टेटमेंट’
जब विवाद बढ़ा, तो मस्क ने कहा कि “जो गलत करेगा, उसे सजा मिलेगी।” लेकिन टेक गुरुओं को ये ‘डैमेज कंट्रोल’ पसंद नहीं आया। उनका कहना है:
सजा देने से बेहतर है कि आपका AI ऐसी फोटो बनाए ही क्यों? गार्ड्रेल्स पहले क्यों नहीं लगाए गए? ‘फ्री स्पीच’ के नाम पर Grok के एल्गोरिदम को इतनी ढील दे दी गई है कि वो अब एक खतरनाक डिजिटल हथियार बन गया है।
