Grok AI : ‘एक्स्प्लॉइटेटिव प्रॉम्प्ट्स’ हुए ब्लॉक, नहीं बना सकेंगे अश्लील फोटो! केवल प्रीमियम मेंबर्स ही कर सकेंगे इस टूल का इस्तेमाल।

ग्लोबल लेवल पर हो रही कड़ी आलोचना के बाद, एलन मस्क की AI फर्म ने Grok चैटबॉट के इमेज जनरेशन टूल फीचर पर लगाम लगा दी है| हाल के दिनों में इस टूल के जरिए महिलाओं और नाबालिगों की आपत्तिजनक और नॉन-कन्सेन्सुअल इमेजेस बनाने के मामले सामने आए थे। इस ‘डिजिटल अनड्रेसिंग’ प्रॉब्लम और प्राइवेसी के उल्लंघन को देखते हुए, कंपनी ने अब सुरक्षा प्रोटोकॉल कड़े कर दिए हैं।

क्या था पूरा मामला?
नए साल के तोहफे के रूप में Grok में ‘इमेज एडिटिंग’ टूल पेश किया गया था, लेकिन जल्द ही ये विवादों के घेरे में आ गया। कई यूज़र्स ने इस फीचर का गलत फायदा उठाकर लोगों की तस्वीरों को डिजिटल रूप से ‘Nude’ या आपत्तिजनक स्थिति में बदलना शुरू कर दिया। रिपोर्ट्स की मानें तो सेलेब्रिटीज के साथ-साथ आम लोग और नाबालिग बच्चे भी इस घिनौने खेल का शिकार हुए। इंटरनेट पर बढ़ती इस ‘सेक्सुअलाइज्ड’ प्रोडक्ट ने डिजिटल सेफ्टी और एथिक्स पर गंभीर सवाल खड़े कर दिए हैं।

इस घटना ने दुनिया भर की सरकारों को सख्त रुख अपनाने पर मजबूर कर दिया है: भारत के IT मंत्रालय ने X Corp को कारण बताओ नोटिस जारी किया है। सरकार ने स्पष्ट किया है कि ‘अश्लील और गैर-कानूनी’ कंटेंट को तुरंत हटाया जाए, वरना नए आईटी नियमों के तहत भारी जुर्माना और कानूनी कार्रवाई की जा सकती है।

एलन मस्क और xAI का स्टैंड
शुरुआत में इस मामले को हल्के में लेने के बाद, अब एलन मस्क ने सिचुएशन की सीरियसनेस को देखते हुए कहा है की: मस्क ने क्लियर वार्निंग दी है कि जो भी यूजर Grok का इस्तेमाल कर ‘इल्लीगल कंटेंट’ क्रिएट करेगा तो उसे वही कानूनी कार्रवाई झेलनी होगी जो किसी रेस्ट्रिक्टेड कंटेंट को इंटरनेट पर फैलाने पर मिलती है। और xAI ने भी इसे ऑफिशियली तौर पर इसे ‘Safety Safeguards’ की विफलता माना है।

बड़े बदलाव और नए रेस्ट्रिक्शंस
विवाद को कंट्रोल करने के लिए कंपनी ने कड़े कदम उठाए हैं:
जिसमे अब ग्रॉक का इमेज जनरेशन टूल ‘ओपन फॉर ऑल’ नहीं है। इसका एक्सेस केवल ‘प्रीमियम सब्सक्राइबर्स’ तक ही लिमिटेड कर दिया गया है।

xAI ने अपने एल्गोरिदम में ‘रिमूव क्लोथिंग’ या ‘अंडरड्रेस’ जैसे ‘एक्स्प्लॉइटेटिव प्रॉम्प्ट्स’ को पूरी तरह ब्लॉक कर दिया है।

अपमानजनक या अवैध कंटेंट बनाने वाले यूजर्स के अकाउंट्स को बिना किसी वॉर्निंग के ‘पर्मानेंटली बैन’ किया जा रहा है।

एक्सपर्ट्स की राय
टेक एक्सपर्ट्स का इसपे कहना है कि Ai कंपनियां सेफ्टी से ज्यादा ‘स्पीड ऑफ इनोवेशन’ और कॉम्पिटिशन को प्रायोरिटी दे रही हैं। इंटरनेट वॉच फाउंडेशन (IWF) के मुताबिक, मजबूत गार्डरेल्स के बिना ऐसे टूल्स अपराधियों के लिए एक डिजिटल वेपन बन जाते हैं, जो किसी की डिग्निटी और इमेज को ऐसा इररिकवरबल डैमेज पहुंचा सकते हैं, जिसे ठीक करना लगभग नामुमकिन होता है।