केंद्र सरकारने सोशल मीडिया प्लॅटफॉर्म ‘X’ ला नोटीस बजावली आहे. प्लॅटफॉर्मवरील Grok AI चॅटबॉटचा दुरुपयोग करून अश्लील कंटेंट तयार केले जात असल्याच्या वाढत्या घटनांवरून इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) ही कारवाई केली आहे.
मंत्रालयाने जारी केलेल्या नोटीसमध्ये म्हटले आहे की, Grok AI चा वापर करून युजर्स महिलांच्या आणि मुलांच्या फोटोंमध्ये बदल करून अश्लील, नग्न किंवा अपमानजनक फोटो तयार करत आहेत. हे कंटेंट महिलांच्या आणि मुलांच्या गोपनीयता, सन्मान आणि डिजिटल सुरक्षेचे गंभीर उल्लंघन करत असून, हिंदुस्थानी कायद्यांचे आणि प्लॅटफॉर्मच्या स्वतःच्या धोरणांचेही उल्लंघन आहे.
विशेषतः, युजर्स फेक अकाउंट्स तयार करून महिलांच्या फोटोंना Grok AI द्वारे प्रॉम्प्ट देऊन कपडे कमी करणे किंवा यौन उत्तेजक स्वरूप देणे असे बदल करत आहेत. असे फोटो प्लॅटफॉर्मवर शेअर केल्या जात आहेत, ज्यामुळे महिलांना लक्ष्य करणाऱ्या अश्लील कंटेंटचा प्रसार होत आहे.
मंत्रालयाने स्पष्ट इशारा दिला आहे की, माहिती तंत्रज्ञान कायदा २००० आणि IT नियम २०२१ अंतर्गत आवश्यक कायदे पाळले नाही तर प्लॅटफॉर्मला कायदेशीर कारवाईला सामोरे जावे लागेल. यात दंड आणि इतर कायदेशीर परिणामांचा समावेश आहे.
