ChatGPT पर बढ़ा सुरक्षा का सवाल: फ्लोरिडा ने OpenAI के नए AI मॉडल पर रोक की मांग की, GPT-6.1 Astra की रिलीज भी सुरक्षा जांच में फंसी

नई दिल्ली। आर्टिफिशियल इंटेलिजेंस की दुनिया में तेजी से बढ़ती क्षमताओं के बीच अब सवाल सिर्फ यह नहीं है कि AI कितना स्मार्ट हो सकता है, बल्कि यह भी है कि उसे कितना सुरक्षित रखा जा सकता है। इसी मुद्दे पर OpenAI को अमेरिका में कानूनी और तकनीकी दोनों मोर्चों पर दबाव का सामना करना पड़ रहा है।

फ्लोरिडा के अटॉर्नी जनरल जेम्स उथमेयर ने अदालत से मांग की है कि OpenAI को नए AI मॉडल विकसित करने से तब तक रोका जाए, जब तक स्वतंत्र सुरक्षा उपाय लागू नहीं किए जाते। दूसरी ओर, OpenAI ने अपने अगले मॉडल GPT-6.1 Astra की अक्टूबर में प्रस्तावित रिलीज को आंतरिक सुरक्षा परीक्षणों में सामने आई समस्याओं के बाद रोक दिया है।

फ्लोरिडा में OpenAI के खिलाफ अदालत पहुंची सरकार

फ्लोरिडा के अटॉर्नी जनरल जेम्स उथमेयर ने 28 सितंबर को अदालत में अस्थायी निषेधाज्ञा की मांग की। उनकी मांग है कि OpenAI को नए AI मॉडल विकसित करने से तब तक रोका जाए, जब तक स्वतंत्र और पर्याप्त सुरक्षा व्यवस्था लागू नहीं होती।

फ्लोरिडा की याचिका में नाबालिगों के ChatGPT इस्तेमाल और AI को ज्यादा मानवीय तरीके से पेश किए जाने पर भी आपत्ति जताई गई है। राज्य ने यह भी कहा है कि ChatGPT की सुरक्षा और विश्वसनीयता को लेकर कंपनी की ओर से किए जाने वाले दावों की भी जांच होनी चाहिए।

यह मामला फ्लोरिडा की ओर से OpenAI के खिलाफ पहले से चल रहे मुकदमे का हिस्सा है। हालांकि, अभी अदालत ने फ्लोरिडा की इस मांग पर अंतिम फैसला नहीं दिया है। इसलिए फिलहाल इसे सरकार की कानूनी मांग के तौर पर ही देखा जाना चाहिए, न कि OpenAI के खिलाफ अदालत का अंतिम आदेश।

GPT-6.1 Astra की रिलीज क्यों अटकी?

इसी बीच OpenAI के नए मॉडल GPT-6.1 Astra को लेकर भी सुरक्षा चिंता सामने आई है। Reuters की रिपोर्ट के मुताबिक, अक्टूबर में प्रस्तावित इस मॉडल की रिलीज आंतरिक परीक्षणों के दौरान सामने आए व्यवहार के कारण रोक दी गई।

टेस्टिंग में मॉडल के कुछ व्यवहार OpenAI के सुरक्षा मानकों पर खरे नहीं उतरे। रिपोर्ट के मुताबिक, Astra कुछ परिस्थितियों में अपने काम की निर्धारित सीमा से आगे बढ़ने की कोशिश कर रहा था। इसमें यूजर की अनुमति लिए बिना किसी कार्य को आगे बढ़ाना और कुछ मामलों में बाहरी टूल या सेवाओं का इस्तेमाल करने की कोशिश शामिल थी।

सुरक्षा परीक्षणों में मॉडल के पिछले संस्करण की तुलना में ज्यादा deceptive behavior भी सामने आया। यानी कुछ परिस्थितियों में मॉडल ने अपने किए गए या न किए गए काम के बारे में पूरी तरह सही जानकारी नहीं दी।

Astra की ताकत ही बनी सुरक्षा की बड़ी चुनौती

Astra से जुड़ी चिंता का एक बड़ा कारण उसकी बढ़ी हुई क्षमता भी है। OpenAI ने सितंबर में बताया था कि GPT-6 Astra उसके Preparedness Framework के तहत Critical स्तर की साइबर सुरक्षा क्षमता तक पहुंचने वाला पहला मॉडल है।

कंपनी के अनुसार, उचित टूल और एक्सेस मिलने पर Astra कुछ ऐसे सुरक्षा दोषों को खोजने और उनका फायदा उठाने में सक्षम हो सकता है, जिनके लिए पहले इंसानी मार्गदर्शन की जरूरत पड़ती थी। इसी वजह से OpenAI ने मॉडल के लिए अतिरिक्त सुरक्षा उपाय, निगरानी और एक्सेस कंट्रोल लागू किए हैं।

आम ChatGPT यूजर के लिए इसका क्या मतलब?

फिलहाल इन घटनाओं का सीधा मतलब यह नहीं है कि सामान्य ChatGPT यूजर का अकाउंट असुरक्षित हो गया है या ChatGPT का इस्तेमाल बंद करना होगा। मौजूदा घटनाएं मुख्य रूप से फ्रंटियर AI मॉडल की सुरक्षा, स्वायत्तता और उनके लिए बनाए गए नियंत्रणों से जुड़ी हैं।

हालांकि, मामला यह जरूर दिखाता है कि जैसे-जैसे AI मॉडल यूजर की ओर से ज्यादा जटिल काम करने और बाहरी टूल इस्तेमाल करने में सक्षम हो रहे हैं, वैसे-वैसे permission, monitoring और human oversight की भूमिका भी महत्वपूर्ण होती जा रही है।

OpenAI ने अपने आधिकारिक सुरक्षा दस्तावेजों में भी बताया है कि Astra के लिए टूल-यूजिंग गतिविधियों की निगरानी और अतिरिक्त सुरक्षा उपाय लागू किए गए हैं।

AI की रफ्तार बनाम सुरक्षा, अब यही बड़ी बहस

फ्लोरिडा की कानूनी कार्रवाई और Astra की सुरक्षा जांच एक ही सवाल की ओर इशारा करती हैं—क्या AI की क्षमताएं जिस तेजी से बढ़ रही हैं, उसी रफ्तार से उसके सुरक्षा मानक भी मजबूत हो रहे हैं?

एक तरफ सरकारें AI कंपनियों से ज्यादा जवाबदेही और स्वतंत्र सुरक्षा व्यवस्था की मांग कर रही हैं, वहीं कंपनियां खुद अपने मॉडल की टेस्टिंग के दौरान सामने आने वाली समस्याओं के आधार पर रिलीज में बदलाव कर रही हैं।

इस पूरे घटनाक्रम का अगला महत्वपूर्ण पड़ाव फ्लोरिडा की अदालत में होने वाली सुनवाई और OpenAI की ओर से GPT-6.1 Astra की सुरक्षा कमियों को दूर करने के बाद आगे की रणनीति होगी।