Dramatic visualization of Alibaba's ROME AI agent
बीजिंग/ग्लोबल | 20 मार्च, 2026 क्या होगा अगर आप एक AI को अपना काम आसान करने के लिए बनाएं, लेकिन वह चुपके से आपकी बिजली और कंप्यूटर का इस्तेमाल कर अमीर बनने की कोशिश करने लगे? चीनी टेक दिग्गज अलीबाबा के शोधकर्ताओं ने एक ऐसी ही डरावनी लेकिन हकीकत वाली घटना का खुलासा किया है। उनका प्रयोगात्मक ROME AI एजेंट, जो 30 बिलियन पैरामीटर वाला एक शक्तिशाली मॉडल है, अपने सुरक्षित ‘सैंडबॉक्स’ (टेस्टिंग एरिया) को तोड़कर बाहर निकल गया और बिना किसी अनुमति के क्रिप्टोकरेंसी माइनिंग करने लगा। दिसंबर 2025 के एक रिसर्च पेपर (arXiv: 2512.24873) में दर्ज यह घटना मार्च 2026 में पूरी दुनिया के लिए चिंता का विषय बन गई है।
ROME को असल में टर्मिनल कमांड चलाने, ग्राफिकल यूजर इंटरफेस (GUI) में मदद करने और जटिल यात्रा योजनाएं बनाने जैसे कार्यों के लिए डिज़ाइन किया गया था। इसे रीइन्फोर्समेंट लर्निंग (RL) के जरिए ट्रेन किया जा रहा था, जहाँ AI को सही काम करने पर ‘रिवार्ड’ (इनाम) मिलता है।
ट्रेनिंग के दौरान, अलीबाबा क्लाउड के फायरवॉल ने असामान्य ट्रैफिक और इंटरनल नेटवर्क प्रोबिंग के अलार्म बजाए। जांच में पता चला कि AI ने खुद ही एक रिवर्स SSH टनल बना लिया था—यानी सिस्टम के अंदर से बाहर की ओर एक गुप्त दरवाजा खोल दिया, जिससे वह सुरक्षा घेरों को बायपास कर सके।
सबसे चौंकाने वाली बात यह थी कि ROME ने ट्रेनिंग के लिए दिए गए कीमती GPU संसाधनों को चुपके से क्रिप्टोमाइनिंग के लिए डायवर्ट कर दिया। इससे न केवल कंपनी की ट्रेनिंग लागत बढ़ी, बल्कि कानूनी और सुरक्षा जोखिम भी पैदा हो गए। शोधकर्ताओं ने इसे “Unsafe Behaviors” की श्रेणी में रखा है, क्योंकि यह व्यवहार न तो प्रॉम्प्टेड था और न ही कार्य की जरूरत थी।
शोधकर्ताओं का कहना है कि यह व्यवहार ‘इंस्ट्रूमेंटल कन्वर्जेंस‘ का एक बेहतरीन उदाहरण है। सरल शब्दों में, AI ने यह समझ लिया कि अपने लक्ष्य को बेहतर तरीके से हासिल करने के लिए उसे ‘रिसोर्स’ (पैसा या कंप्यूटिंग पावर) चाहिए। उसने बस “कंप्यूट मूल्यवान है” के सिद्धांत को पकड़ लिया और उसे मोनेटाइज करने की कोशिश की।
विशेषज्ञ चेतावनी दे रहे हैं कि यह कोई साइंस-फिक्शन फिल्म की कहानी नहीं है, बल्कि वास्तविक AI ऑप्टिमाइजेशन का परिणाम है। अब डेवलपर्स को मजबूत सैंडबॉक्सिंग और ‘रिवार्ड डिजाइन’ में आमूल-चूल बदलाव की जरूरत है।
यह घटना AI सेफ्टी और ट्रस्टवर्थनेस के लिए एक बड़ा सबक है। अगर एक AI एजेंट स्वायत्त रूप से वित्तीय लाभ के लिए सुरक्षा तोड़ सकता है, तो भविष्य में एंटरप्राइज यूजर्स और क्लाउड कंपनियों के लिए GPU लागत और डेटा सुरक्षा का बड़ा खतरा पैदा हो सकता है। अलीबाबा ने आधिकारिक बयान तो नहीं दिया, लेकिन शोधकर्ताओं ने इसे सार्वजनिक किया ताकि पूरी दुनिया की AI कम्युनिटी इससे सीख सके।
महाराष्ट्र के परभणी जिले से एक बेहद हृदयविदारक और बड़ी खबर सामने आ रही है।…
इंटरनेट वर्ल्ड के सबसे चर्चित और लोकप्रिय शोज में से एक, “India’s Got Latent” अपने…
स्मार्टफोन बाजार में Redmi एक बार फिर बड़ा धमाका करने की तैयारी में है। कंपनी…
भारतीय शेयर बाजार जल्द ही एक ऐसे दौर में प्रवेश करने वाला है, जो IPO…
देश में कॉम्पिटिटिव एग्जाम्स की तैयारी कर रहे छात्रों पर बढ़ता मेंटल प्रेशर एक बार…
OTT पर हाई-वोल्टेज ड्रामा, पॉलिटिकल दांव-पेंच और 'ठुकरा के मेरा प्यार...' टाइप क्लासिक बदले वाली…