Grok AI से अश्लील-अभद्र कंटेंट मामले में मोदी सरकार का एक्शन, X को भेजा नोटिस, खत्म होगा ‘सेफ हार्बर’ संरक्षण!

Grok AI के जरिए अश्लील और अभद्र कंटेंट परोसे जाने के मामले सामने आने के बाद मोदी सरकार ने एलन मस्क की कंपनी X कॉर्प पर तगड़ा एक्शन लिया है. दरअसल, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स कॉर्प पर अपने प्लेटफॉर्म पर अश्लील, नग्न और आपत्तिजनक कंटेंट बनने और सर्कुलेट होने से रोकने में नाकाम रहने पर कार्रवाई की है.

72 घंटे के भीतर एक्शन टेकन रिपोर्ट भेजे X: IT मिनिस्ट्री

सरकार ने एक्स कॉर्प को निर्देश दिया है कि वह 72 घंटे के भीतर एक एक्शन टेकन रिपोर्ट भेजे. यह रिपोर्ट एआई आधारित सेवाओं जैसे ‘ग्रोक’ और एक्स एआई की अन्य सेवाओं के दुरुपयोग के जरिए अश्लील, नग्न, आपत्तिजनक और स्पष्ट सामग्री की होस्टिंग, निर्माण, प्रकाशन, प्रसारण, साझा करने या अपलोड करने को रोकने के लिए की गई तत्काल कार्रवाई से संबंधित होगी.

निर्देशों का पालन नहीं होने पर होगी कार्रवाई!

निर्देश में कहा गया है कि इन आवश्यकताओं का पालन न करने को गंभीरता से लिया जाएगा और आईटी एक्ट, आईटी नियमों, बीएनएसएस, बीएनएस और अन्य लागू कानूनों के तहत बिना किसी अतिरिक्त नोटिस के प्लेटफॉर्म, उसके जिम्मेदार अधिकारियों और कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ सख्त कानूनी कार्रवाई की जा सकती है.

अश्लील सामग्रियों की रोकथाम के उपाय भी करने के निर्देश

मंत्रालय ने एक्स को निर्देश दिया है कि वह ग्रोक के तकनीकी और प्रशासनिक ढांचे की व्यापक समीक्षा करे, ताकि अवैध सामग्री के निर्माण को रोका जा सके. इसमें सख्त उपयोगकर्ता नीतियों को लागू करना शामिल है, जिनमें नियम तोड़ने वालों के खाते निलंबित करना या समाप्त करना भी शामिल होगा. मंत्रालय ने कहा कि सभी आपत्तिजनक सामग्री को बिना सबूत से छेड़छाड़ किए तुरंत हटाया जाए.

X को मिले ‘सेफ हार्बर’ संरक्षण खत्म कर सकती है सरकार!

आईटी मंत्रालय ने कहा कि नियमों का पालन न होने पर आईटी एक्ट की धारा 79 के तहत मिलने वाला ‘सेफ हार्बर’ संरक्षण खत्म हो सकता है और बीएनएस, महिलाओं के अशोभनीय चित्रण अधिनियम तथा बच्चों के यौन अपराधों से संरक्षण अधिनियम सहित कई कानूनों के तहत दंडात्मक कार्रवाई हो सकती है. एक्स को भेजे गए पत्र में मंत्रालय ने कहा कि उसका मानना है कि सूचना प्रौद्योगिकी अधिनियम के तहत निर्धारित नियामक प्रावधानों का प्लेटफॉर्म द्वारा ठीक से पालन नहीं किया जा रहा है, खासकर अश्लील, आपत्तिजनक, अशोभनीय, अश्लील साहित्य, बाल यौन शोषण से जुड़ी या अन्य अवैध और हानिकारक सामग्री के मामलों में, जो मौजूदा कानूनों का उल्लंघन हो सकते हैं.

महिलाओं-बच्चों की निजता का उल्लंघन मान रही है सरकार!

पत्र में कहा गया है कि इन कृत्यों और चूकों को अत्यंत गंभीरता से देखा जा रहा है, क्योंकि इससे महिलाओं और बच्चों की गरिमा, निजता और सुरक्षा का उल्लंघन होता है, डिजिटल प्लेटफॉर्म पर यौन उत्पीड़न और शोषण को सामान्य बनाने का खतरा पैदा होता है और भारत में काम कर रहे मध्यस्थों पर लागू कानूनी सतर्कता व्यवस्था कमजोर पड़ती है.

Grok AI सेवा का हो रहा भयंकर दुरुपयोग

पत्र में यह भी विशेष रूप से उल्लेख किया गया है कि एक्स द्वारा विकसित और प्लेटफॉर्म पर उपलब्ध कराई गई ग्रोक एआई सेवा का दुरुपयोग उपयोगकर्ताओं द्वारा किया जा रहा है. इसके जरिए महिलाओं की अश्लील तस्वीरें या वीडियो अपमानजनक और अशोभनीय तरीके से बनाने, प्रकाशित करने या साझा करने के लिए अकाउंट बनाए जा रहे हैं.

यह समस्या केवल फर्जी खातों तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है, जो खुद अपनी तस्वीरें या वीडियो पोस्ट करती हैं. प्रॉम्प्ट, इमेज मैनिपुलेशन और कृत्रिम आउटपुट के जरिए ऐसा किया जा रहा है. पत्र के अनुसार, यह प्लेटफॉर्म स्तर पर सुरक्षा और प्रवर्तन तंत्र की गंभीर विफलता को दर्शाता है और लागू कानूनों का उल्लंघन करते हुए कृत्रिम बुद्धिमत्ता तकनीकों का घोर दुरुपयोग है.

इस नोटिस की एक प्रति अन्य प्रमुख मंत्रालयों, आयोगों और राज्य प्राधिकरणों को भी भेजी गई है, जिससे यह संकेत मिलता है कि एआई के जरिए बढ़ाई जा रही अश्लीलता के खिलाफ समन्वित कार्रवाई की जाएगी.

शिवसेना UBT सांसद प्रियंका चतुर्वेदी ने IT मंत्री को लिखी थी चिट्ठी

आपको बता दें कि शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने इसको लेकर आवाज उठाई थी. उन्होंने इस संबंध में केंद्रीय आईटी मंत्री अश्विनी वैष्णव को एक चिट्ठी लिखी थी. चतुर्वेदी ने कहा था कि सोशल मीडिया पर एक नया और खतरनाक ट्रेंड शुरू हुआ है, जिसमें पुरुष फर्जी अकाउंट्स के जरिए महिलाओं की तस्वीरें पोस्ट कर रहे हैं और Grok AI को उन तस्वीरों को अश्लील बनाने के प्रॉम्प्ट (निर्देश) दे रहे हैं. इतना ही नहीं, महिलाओं द्वारा खुद पोस्ट की गई तस्वीरों को भी टारगेट किया जा रहा है. उन्होंने इसे एआई का घोर दुरुपयोग करार देते हुए सख्त कार्रवाई की मांग की थी.