Grok AI Misuse: भारत सरकार ने सोशल मीडिया प्लेटफॉर्म ‘X’ (पूर्व में ट्विटर) और एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI के खिलाफ कड़ा रुख अख्तियार किया है। AI टूल ‘ग्रोक’ (Grok) के जरिए फैलाई जा रही अश्लील और आपत्तिजनक सामग्री को लेकर आईटी मंत्रालय ने कंपनी को औपचारिक पत्र लिखकर जवाब तलब किया है। सरकार ने स्पष्ट किया है कि तकनीक की आड़ में शालीनता और नैतिकता की सीमाओं का उल्लंघन किसी भी कीमत पर बर्दाश्त नहीं किया जाएगा।
Grok AI Misuse: Grok AI और xAI की सेवाओं पर सरकार की पैनी नजर
ग्रोक एलन मस्क की कंपनी xAI द्वारा विकसित एक उन्नत AI चैटबॉट और सहायक टूल है। यह न केवल जटिल सवालों के जवाब दे सकता है, बल्कि टेक्स्ट कमांड के आधार पर तस्वीरें भी बना सकता है। हालांकि, इसकी इसी खूबी का उपयोग अब गलत कार्यों के लिए किया जा रहा है। सरकार ने अपने पत्र में ‘Grok’ और xAI की अन्य सेवाओं के माध्यम से अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री के निर्माण और प्रसार पर गंभीर चिंता जताई है। सरकार ने ‘X’ से ऐसी सामग्री को रोकने के लिए किए गए सुरक्षा उपायों की तत्काल रिपोर्ट मांगी है।
Grok AI Misuse: महिलाओं की सुरक्षा और अश्लीलता पर संसदीय चिंता
केंद्र सरकार ने अपने पत्र में उल्लेख किया है कि समय-समय पर सार्वजनिक चर्चाओं और विभिन्न संसदीय हितधारकों ने इस मुद्दे को उठाया है। सरकार ने ‘X’ को सूचित किया है कि उनके प्लेटफॉर्म पर प्रसारित सामग्री की कुछ श्रेणियां वर्तमान भारतीय कानूनों और अश्लीलता विरोधी नियमों का अनुपालन नहीं कर रही हैं। विशेष रूप से महिलाओं की सुरक्षा और उनके सम्मान को ठेस पहुंचाने वाले कंटेंट पर सरकार का रुख बेहद सख्त है। आईटी मंत्रालय ने स्पष्ट किया है कि सोशल मीडिया प्लेटफॉर्म की जिम्मेदारी है कि वे अपने AI टूल्स को सुरक्षित बनाएं।
‘ooGrok AI’ और फर्जी खातों के जरिए रची जा रही साजिश
सरकार ने पत्र में विशेष रूप से “ooGrok AI” का नाम लिया है, जो एक्स प्लेटफॉर्म पर उपलब्ध है। यह देखा गया है कि कई उपयोगकर्ता इस सेवा का दुरुपयोग करके महिलाओं की तस्वीरों और वीडियो को मॉर्फ कर उन्हें अपमानजनक या भद्दे तरीके से पेश कर रहे हैं। सबसे चौंकाने वाली बात यह है कि इस प्रकार की घिनौनी गतिविधियों को अंजाम देने के लिए बड़े पैमाने पर फर्जी खातों (Fake Accounts) का सहारा लिया जा रहा है। सरकार ने इन फर्जी खातों की पहचान करने और उन पर लगाम लगाने के लिए उठाए गए कदमों की जानकारी मांगी है।
डीपफेक और एआई जनित सामग्री के खिलाफ सख्त कानून की ओर कदम
सोशल मीडिया पर पिछले कुछ समय से ग्रोक के दुरुपयोग को लेकर काफी विरोध हो रहा था। कई प्रभावित लोगों और जागरूक नागरिकों ने सरकार से इस दिशा में कार्रवाई की मांग की थी। सरकार ने पत्र में चेतावनी दी है कि होस्टिंग, प्रकाशन, प्रसारण या साझा करने की प्रक्रिया में यदि कानूनों का उल्लंघन पाया गया, तो सख्त कानूनी कार्रवाई की जाएगी। यह कदम भारत में एआई और डीपफेक तकनीक के विनियमन (Regulation) की दिशा में एक महत्वपूर्ण मोड़ माना जा रहा है, ताकि डिजिटल स्पेस को सभी के लिए सुरक्षित बनाया जा सके।
भविष्य की कार्रवाई: क्या ‘X’ पर लगेगा प्रतिबंध?
सरकार की इस सख्ती के बाद अब सबकी नजरें एलन मस्क की कंपनी के जवाब पर टिकी हैं। यदि ‘X’ संतोषजनक जवाब देने में विफल रहता है या अश्लील कंटेंट को रोकने के लिए ठोस कदम नहीं उठाता है, तो उसे भारी जुर्माने या अन्य दंडात्मक कार्रवाइयों का सामना करना पड़ सकता है। आईटी अधिनियम के तहत, प्लेटफॉर्म्स को यह सुनिश्चित करना अनिवार्य है कि उनके एआई मॉडल किसी भी नागरिक के मौलिक अधिकारों और शालीनता का उल्लंघन न करें।
Read More : फ्लाइट से कम खर्च में लंबी दूरी का सफर! आ रही है पहली स्लीपर वंदे भारत ट्रेन
