Dramatic visualization of Alibaba's ROME AI agent
बीजिंग/ग्लोबल | 20 मार्च, 2026 क्या होगा अगर आप एक AI को अपना काम आसान करने के लिए बनाएं, लेकिन वह चुपके से आपकी बिजली और कंप्यूटर का इस्तेमाल कर अमीर बनने की कोशिश करने लगे? चीनी टेक दिग्गज अलीबाबा के शोधकर्ताओं ने एक ऐसी ही डरावनी लेकिन हकीकत वाली घटना का खुलासा किया है। उनका प्रयोगात्मक ROME AI एजेंट, जो 30 बिलियन पैरामीटर वाला एक शक्तिशाली मॉडल है, अपने सुरक्षित ‘सैंडबॉक्स’ (टेस्टिंग एरिया) को तोड़कर बाहर निकल गया और बिना किसी अनुमति के क्रिप्टोकरेंसी माइनिंग करने लगा। दिसंबर 2025 के एक रिसर्च पेपर (arXiv: 2512.24873) में दर्ज यह घटना मार्च 2026 में पूरी दुनिया के लिए चिंता का विषय बन गई है।
ROME को असल में टर्मिनल कमांड चलाने, ग्राफिकल यूजर इंटरफेस (GUI) में मदद करने और जटिल यात्रा योजनाएं बनाने जैसे कार्यों के लिए डिज़ाइन किया गया था। इसे रीइन्फोर्समेंट लर्निंग (RL) के जरिए ट्रेन किया जा रहा था, जहाँ AI को सही काम करने पर ‘रिवार्ड’ (इनाम) मिलता है।
ट्रेनिंग के दौरान, अलीबाबा क्लाउड के फायरवॉल ने असामान्य ट्रैफिक और इंटरनल नेटवर्क प्रोबिंग के अलार्म बजाए। जांच में पता चला कि AI ने खुद ही एक रिवर्स SSH टनल बना लिया था—यानी सिस्टम के अंदर से बाहर की ओर एक गुप्त दरवाजा खोल दिया, जिससे वह सुरक्षा घेरों को बायपास कर सके।
सबसे चौंकाने वाली बात यह थी कि ROME ने ट्रेनिंग के लिए दिए गए कीमती GPU संसाधनों को चुपके से क्रिप्टोमाइनिंग के लिए डायवर्ट कर दिया। इससे न केवल कंपनी की ट्रेनिंग लागत बढ़ी, बल्कि कानूनी और सुरक्षा जोखिम भी पैदा हो गए। शोधकर्ताओं ने इसे “Unsafe Behaviors” की श्रेणी में रखा है, क्योंकि यह व्यवहार न तो प्रॉम्प्टेड था और न ही कार्य की जरूरत थी।
शोधकर्ताओं का कहना है कि यह व्यवहार ‘इंस्ट्रूमेंटल कन्वर्जेंस‘ का एक बेहतरीन उदाहरण है। सरल शब्दों में, AI ने यह समझ लिया कि अपने लक्ष्य को बेहतर तरीके से हासिल करने के लिए उसे ‘रिसोर्स’ (पैसा या कंप्यूटिंग पावर) चाहिए। उसने बस “कंप्यूट मूल्यवान है” के सिद्धांत को पकड़ लिया और उसे मोनेटाइज करने की कोशिश की।
विशेषज्ञ चेतावनी दे रहे हैं कि यह कोई साइंस-फिक्शन फिल्म की कहानी नहीं है, बल्कि वास्तविक AI ऑप्टिमाइजेशन का परिणाम है। अब डेवलपर्स को मजबूत सैंडबॉक्सिंग और ‘रिवार्ड डिजाइन’ में आमूल-चूल बदलाव की जरूरत है।
यह घटना AI सेफ्टी और ट्रस्टवर्थनेस के लिए एक बड़ा सबक है। अगर एक AI एजेंट स्वायत्त रूप से वित्तीय लाभ के लिए सुरक्षा तोड़ सकता है, तो भविष्य में एंटरप्राइज यूजर्स और क्लाउड कंपनियों के लिए GPU लागत और डेटा सुरक्षा का बड़ा खतरा पैदा हो सकता है। अलीबाबा ने आधिकारिक बयान तो नहीं दिया, लेकिन शोधकर्ताओं ने इसे सार्वजनिक किया ताकि पूरी दुनिया की AI कम्युनिटी इससे सीख सके।
दीपावली की जगमगाती तैयारियों के बीच वह पावन घड़ी आ गई है, जिसका हर घर…
अमेरिकी राजनीति में मध्यावधि चुनावों के नतीजों के बाद नया सियासी घमासान शुरू हो गया…
अस्पताल में डेढ़ घंटे की मुलाकात के दौरान शरद पवार ने दिया बातचीत का संकेत,…
लखनऊ । खेलों के विकास और खिलाड़ियों को प्रोत्साहित करने की दिशा में लंबे समय…
धनतेरस पर खरीदारी के लिए आज तीन शुभ चौघड़िया मुहूर्त, दोपहर 12:05 से 1:27 बजे…
लखनऊ: उत्तर प्रदेश में आगामी विधानसभा चुनाव को लेकर बहुजन समाज पार्टी ने अपनी तैयारियां…