अब AI चैटबॉट से बच्चे ने की सुसाइड या सेल्फ-हार्म की बात, तो पैरेंट्स के पास तुरंत पहुंचेगा अलर्ट

आर्टिफिशियल इंटेलिजेंस के बढ़ते दौर में बच्चों की सुरक्षा को लेकर हमेशा से बड़े सवाल उठते रहे हैं। दुनिया भर से ऐसे कई मामले सामने आए हैं जहां मानसिक तनाव या डिप्रेशन से जूझ रहे बच्चों ने एआई चैटबॉट से खुद को नुकसान पहुंचाने या सुसाइड से जुड़े सवाल पूछे। इन संवेदनशील मामलों को लेकर टेक कंपनियों को कड़ी जांच और आलोचनाओं का सामना भी करना पड़ा है।

इसी गंभीर चुनौती से निपटने के लिए फेसबुक और इंस्टाग्राम की पैरेंट कंपनी Meta एक बेहद खास और बड़ा सेफ्टी फीचर लेकर आई है। अब अगर कोई टीनेजर इंस्टाग्राम या मेटा के किसी अन्य प्लेटफॉर्म पर मौजूद ‘Meta AI’ चैटबॉट से खुद को नुकसान पहुंचाने या सुसाइड जैसी कोई भी बात करता है, तो उसके पेरेंट्स के पास तुरंत एक अलर्ट भेजा जाएगा।

कैसे काम करेगा मेटा का यह नया सुरक्षा चक्र?

मेटा का यह नया फीचर सीधे तौर पर पेरेंट्स को उनके बच्चों के डिजिटल बिहेवियर और मेंटल हेल्थ को मॉनिटर करने की ताकत देगा। इसकी कार्यप्रणाली को इस तरह तैयार किया गया है:

AI की नज़र: मेटा ने एक स्पेशल एआई सिस्टम डेवलप किया है। यह सिस्टम चैट के दौरान उन शब्दों या वाक्यों को तुरंत पकड़ लेगा, जहां कोई बच्चा खुद को नुकसान पहुंचाने का साफ जिक्र कर रहा हो।

ह्यूमन रिव्यू: कंपनी का कहना है कि एआई सिस्टम द्वारा चैट फ्लैग किए जाने के बाद भी कोई अंतिम फैसला सीधे मशीन नहीं लेगी। मेटा समझता है कि पैरेंट्स के लिए ऐसा कोई भी अलर्ट मिलना बेहद परेशान करने वाला हो सकता है। इसलिए, किसी भी पैरेंट को नोटिफिकेशन भेजने से पहले मेटा की एक्सपर्ट टीम उस बातचीत का खुद मैन्युअली रिव्यू (Manual Review) करेगी, ताकि गलत अलर्ट न जाए।

सर्च हिस्ट्री पर भी नज़र: इस अपडेट के साथ माता-पिता यह भी देख सकेंगे कि उनके बच्चे ने पिछले एक हफ्ते में मेटा एआई के साथ किन-किन टॉपिक्स पर चर्चा की है।

शुरुआत में इन देशों को मिलेगा फायदा

मेटा इस फीचर को स्टेप-बाय-स्टेप रोलआउट कर रहा है:

शुरुआती फेज़: यह फीचर फिलहाल US, UK, कनाडा और ऑस्ट्रेलिया में उन पैरेंट्स के लिए लाइव किया जा रहा है जो इंस्टाग्राम के ‘पेरेंटल सुपरविज़न टूल्स’ का इस्तेमाल कर रहे हैं।

ग्लोबल रोलआउट: कंपनी ने अपने आधिकारिक ब्लॉग पोस्ट में साफ किया है कि साल 2026 के अंत तक इस सेफ्टी फीचर का दायरा बढ़ाकर इसे पूरी दुनिया में लागू कर दिया जाएगा।

टेक इंडस्ट्री में क्यों बड़ा गेम-चेंजर है यह कदम?

अब तक एआई चैटबॉट्स को लेकर सबसे बड़ा डर यह था कि वे यूजर्स के अकेलेपन या मेंटल क्राइसिस का सही ढंग से आकलन नहीं कर पाते थे और कई बार अनजाने में खतरनाक सुझाव दे बैठते थे। मेटा का यह कदम न सिर्फ बच्चों को किसी बड़े हादसे से बचाएगा, बल्कि टेक इंडस्ट्री में एआई सेफ्टी के लिए एक नया बेंचमार्क भी सेट करेगा।