नई दिल्ली: ChatGPT बनाने वाली कंपनी OpenAI में उस वक्त बड़ा सवाल खड़ा हो गया, जब कंपनी के सेफ्टी हेड डेविड रॉबिन्सन ने अपने पद से इस्तीफा दे दिया। नौकरी छोड़ने के बाद डेविड ने AI इंडस्ट्री के मौजूदा तौर-तरीकों पर गंभीर सवाल उठाए हैं। उनका कहना है कि बड़ी टेक कंपनियां बेहद शक्तिशाली AI सिस्टम तैयार करने की होड़ में सुरक्षा से जुड़े जरूरी पहलुओं को नजरअंदाज कर रही हैं। डेविड के मुताबिक, अगर यही रफ्तार जारी रही तो आने वाले समय में ऐसे AI सिस्टम सामने आ सकते हैं जिन्हें इंसानों के नियंत्रण में रखना बेहद मुश्किल होगा।
OpenAI से क्यों अलग हुए डेविड रॉबिन्सन?
डेविड रॉबिन्सन साल 2023 में OpenAI से जुड़े थे। शुरुआत में उन्होंने कंपनी में नीति से जुड़ी जिम्मेदारियां संभालीं और बाद में सुरक्षा प्रणालियों की पूरी टीम की जिम्मेदारी उनके पास आ गई। कंपनी के नए AI मॉडल जारी होने से पहले उनकी सुरक्षा जांच और उससे जुड़ी रिपोर्टिंग में अहम भूमिका रहती थी।
हाल ही में द अटलांटिक में लिखे एक लेख में डेविड ने अपने इस्तीफे की वजह और AI इंडस्ट्री को लेकर अपनी चिंताओं के बारे में विस्तार से बताया। उन्होंने कहा कि वह उन AI शोधकर्ताओं में शामिल हो गए हैं, जो टेक कंपनियों के रवैये से निराश होकर अपनी नौकरियां छोड़ रहे हैं।
डेविड का आरोप है कि OpenAI के भीतर का माहौल पहले जैसा नहीं रहा और AI सुरक्षा से जुड़े नियमों को लेकर गंभीरता कम हुई है। उनके मुताबिक, कंपनियां तेजी से आगे बढ़ने की होड़ में ऐसे जोखिम उठा रही हैं, जिनके परिणाम भविष्य में बेहद गंभीर हो सकते हैं।
सिलिकॉन वैली के पास ताकत बहुत, लेकिन समझदारी कम?
डेविड रॉबिन्सन ने सिर्फ OpenAI ही नहीं, बल्कि पूरी टेक इंडस्ट्री की कार्यशैली पर सवाल उठाए हैं। उनका कहना है कि सिलिकॉन वैली के पास प्रतिभा, पैसा और तकनीकी क्षमता की कोई कमी नहीं है, लेकिन इतने शक्तिशाली AI सिस्टम को संभालने के लिए जिस परिपक्वता और सावधानी की जरूरत है, उसकी कमी दिखाई दे रही है।
आज Google और OpenAI समेत कई बड़ी कंपनियां सबसे शक्तिशाली और सबसे स्मार्ट AI मॉडल तैयार करने की दौड़ में हैं। समस्या यह है कि इस दौड़ में इस सवाल पर पर्याप्त ध्यान नहीं दिया जा रहा कि अगर कोई बेहद शक्तिशाली AI सिस्टम इंसानी नियंत्रण से बाहर चला गया तो उसे वापस नियंत्रित कैसे किया जाएगा।
AI पर ‘पहले लॉन्च, बाद में सुधार’ का तरीका कितना खतरनाक?
डेविड का कहना है कि AI कंपनियां अब तक तकनीकी दुनिया में इस्तेमाल होने वाले उसी पुराने तरीके पर भरोसा करती रही हैं, जिसमें पहले कोई उत्पाद या मॉडल जारी किया जाता है और उसके बाद सामने आने वाली समस्याओं के आधार पर उसमें सुधार किए जाते हैं।
लेकिन डेविड के मुताबिक, बेहद शक्तिशाली AI के मामले में यह तरीका खतरनाक साबित हो सकता है। उनका तर्क है कि अगर कोई AI सिस्टम इंसानों से कहीं ज्यादा सक्षम हो गया, तो उसकी गलती सामने आने के बाद उसे सुधारने का मौका शायद मिले ही नहीं।
इसी वजह से उनका मानना है कि AI सिस्टम के लिए सुरक्षा व्यवस्था शुरुआत से ही बेहद मजबूत होनी चाहिए, न कि किसी बड़ी समस्या के सामने आने के बाद उसमें सुधार किया जाए।
AI मॉडल के नियंत्रण से बाहर होने के उदाहरणों ने बढ़ाई चिंता
डेविड रॉबिन्सन ने अपने लेख में कुछ ऐसी घटनाओं का भी जिक्र किया है, जिन्हें वह AI सुरक्षा को लेकर चेतावनी के तौर पर देखते हैं।
उन्होंने हगिंग फेस से जुड़ी एक घटना का उल्लेख किया, जिसमें OpenAI के AI एजेंट्स का एक समूह कथित तौर पर गलती से खुद-ब-खुद बाहर निकल गया था।
एक अन्य मामले में उन्होंने बताया कि एक AI मॉडल की ट्रेनिंग के दौरान उसे इंटरनेट तक पहुंचने से रोकने की पाबंदी थी। इसके बावजूद मॉडल ने उस सुरक्षा व्यवस्था को पार कर लिया। सिस्टम ने अलर्ट जरूर जारी किया, लेकिन उसे इस तरह तैयार नहीं किया गया था कि वह मॉडल को तुरंत बंद कर सके।
डेविड ने Anthropic से जुड़े एक मामले का भी उल्लेख किया, जहां गलत सेटिंग के कारण सुरक्षा सुविधाएं अपने आप बंद हो गई थीं। उनका कहना है कि AI कंपनियां विकास की रफ्तार बनाए रखने के दबाव में ऐसी घटनाओं को अक्सर छोटी तकनीकी चूक मानकर आगे बढ़ जाती हैं।
AI लैब्स को परमाणु संयंत्र जैसी सुरक्षा की जरूरत
डेविड रॉबिन्सन का मानना है कि AI विकसित करने वाली कंपनियों को अब सामान्य तकनीकी कंपनियों की तरह काम करने के तरीके से आगे बढ़ना होगा। उन्होंने AI लैब्स के लिए परमाणु संयंत्रों और व्यस्त अंतरराष्ट्रीय हवाई अड्डों जैसी कड़ी सुरक्षा व्यवस्था की जरूरत बताई है।
उनके मुताबिक, जिस तरह परमाणु संयंत्रों में किसी मानवीय गलती के गंभीर परिणामों को रोकने के लिए कई स्तर की सुरक्षा, स्वचालित व्यवस्था और वैकल्पिक योजनाएं मौजूद रहती हैं, उसी तरह AI सिस्टम के लिए भी मजबूत सुरक्षा ढांचा तैयार किया जाना चाहिए।
इसका उद्देश्य यह सुनिश्चित करना होगा कि अगर किसी समय इंसान सीधे तौर पर मौजूद न हो, तब भी AI सिस्टम ऐसा कोई फैसला न ले सके जिससे गंभीर नुकसान का खतरा पैदा हो।
कंपनी से बाहर रहकर AI सुरक्षा की लड़ाई लड़ेंगे डेविड
OpenAI छोड़ने का फैसला डेविड रॉबिन्सन के लिए आसान नहीं था। वह अब भी मानते हैं कि AI में दुनिया को बेहतर बनाने की बड़ी क्षमता है। हालांकि, उनका कहना है कि कंपनी के भीतर रहकर जरूरी बदलाव लाना अब संभव नहीं रह गया था।
अब डेविड कंपनी के बाहर रहकर AI से जुड़े संभावित खतरों को आम लोगों, मीडिया और सरकारों के सामने रखने की कोशिश करेंगे। उनका उद्देश्य टेक कंपनियों पर ऐसा दबाव बनाना है कि AI सुरक्षा सिर्फ कागजों तक सीमित न रहे, बल्कि नए सिस्टम तैयार करने की प्रक्रिया में इसे सबसे पहली प्राथमिकता दी जाए।
