शेवटचे अपडेट:
भारत सरकारने Grok AI द्वारे व्युत्पन्न केलेल्या अश्लील सामग्रीवरील X च्या प्रतिसादाला “तपशीलवार परंतु पुरेसे नाही” असे म्हटले आहे आणि पुढील स्पष्टीकरण आणि प्रतिबंधात्मक उपायांची मागणी केली आहे.
Grok (AP) साठी एक प्रतिनिधी प्रतिमा
भारत सरकारने त्याच्या आर्टिफिशियल इंटेलिजन्स चॅटबॉट ग्रोकशी जोडलेल्या अश्लील सामग्रीबद्दल X ने सादर केलेल्या प्रतिसादाचे वर्णन “तपशीलवार परंतु पुरेसे नाही” असे केले आहे आणि भविष्यात होणारे उल्लंघन टाळण्यासाठी केलेल्या विशिष्ट कृती आणि उपाययोजनांबद्दल अधिक माहिती मागितली आहे, असे वृत्तसंस्था पीटीआयने सूत्रांच्या हवाल्याने म्हटले आहे.
Grok सारख्या AI सेवांद्वारे अशोभनीय आणि लैंगिकरित्या सुस्पष्ट सामग्रीच्या निर्मितीवर कठोर चेतावणी दिल्यानंतर, 5 वाजेपर्यंत विस्तारित मुदत दिल्यानंतर X ने बुधवारी आयटी मंत्रालयाला एक लांबलचक उत्तर सादर केले.
सूत्रांनी पीटीआयला सांगितले की प्लॅटफॉर्मच्या सबमिशनने भारतीय कायदे आणि मार्गदर्शक तत्त्वांचा आदर केला आणि भारताला एक प्रमुख बाजारपेठ म्हणून ठळक केले.
यात दिशाभूल करणारी माहिती आणि संमती नसलेल्या लैंगिक प्रतिमांशी संबंधित कठोर सामग्री काढण्याची धोरणे देखील स्पष्ट केली आहेत.
तथापि, अधिकाऱ्यांनी नोंदवले की, प्रतिसादातून महत्त्वाची माहिती “मिसली” आहे, ज्यात टेकडाउनचे तपशील आणि Grok AI द्वारे तयार केलेल्या अश्लील सामग्रीला संबोधित करण्यासाठी घेतलेल्या विशिष्ट पावलांचा समावेश आहे.
आयटी मंत्रालयाने आता X ला या मुद्यांवर अधिक स्पष्टीकरण देण्यास आणि अतिरिक्त प्रश्नांना त्वरित प्रतिसाद देण्यास सांगितले आहे.
2 जानेवारी रोजी, मंत्रालयाने एलोन मस्कच्या नेतृत्वाखालील प्लॅटफॉर्मला सर्व असभ्य, अश्लील आणि बेकायदेशीर सामग्री ताबडतोब काढून टाकण्याचे निर्देश दिले होते, विशेषत: Grok द्वारे व्युत्पन्न केलेले, पालन न केल्यास IT कायदा आणि इतर लागू कायद्यांतर्गत कारवाई केली जाईल असा इशारा दिला होता.
निर्देशानुसार X ने 72 तासांच्या आत तपशीलवार कृती अहवाल (ATR) सादर करणे आवश्यक आहे, Grok संदर्भात स्वीकारलेल्या तांत्रिक आणि संस्थात्मक उपाय, मुख्य अनुपालन अधिकाऱ्याने वापरलेली भूमिका आणि देखरेख, आक्षेपार्ह सामग्री, वापरकर्ते आणि खाती यांच्यावर केलेल्या कारवाई आणि भारतीय कायद्यानुसार अनिवार्य अहवालाचे पालन सुनिश्चित करण्यासाठी यंत्रणा.
“आयटी कायद्याच्या कलम 79 अंतर्गत वैधानिक सवलत, जे सुरक्षित बंदर आणि ऑनलाइन मध्यस्थांच्या दायित्वापासून मुक्ततेशी संबंधित आहेत, योग्य परिश्रम दायित्वांचे कठोर पालन करण्यावर सशर्त आहेत,” मंत्रालयाने चेतावणी दिली होती.
“त्यानुसार, तुम्हाला तुमच्या प्लॅटफॉर्मवर अश्लील, अश्लील, अश्लील, असभ्य, लैंगिकदृष्ट्या सुस्पष्ट, पेडोफिलिक किंवा अन्यथा कोणत्याही कायद्यानुसार प्रतिबंधित असलेल्या कोणत्याही सामग्रीचे होस्टिंग, प्रदर्शन, अपलोड, प्रकाशन, प्रसारण, स्टोरेज किंवा सामायिकरण करण्यापासून कठोरपणे परावृत्त करण्याचा सल्ला देण्यात आला आहे,” असे त्यात म्हटले आहे.
मंत्रालयाने नमूद केले की Grok AI चा केवळ बनावट खाती तयार करण्यासाठीच नव्हे तर प्रॉम्प्ट, इमेज मॅनिपुलेशन आणि सिंथेटिक आउटपुटद्वारे त्यांच्या प्रतिमा किंवा व्हिडिओ होस्ट किंवा प्रकाशित करणाऱ्या महिलांना लक्ष्य करण्यासाठी देखील केला जात आहे.
अधिकाऱ्यांनी याचे वर्णन “प्लॅटफॉर्म-स्तरीय सुरक्षितता आणि अंमलबजावणी यंत्रणेचे गंभीर अपयश” आणि “निर्धारित कायद्यांचे उल्लंघन करून कृत्रिम बुद्धिमत्ता तंत्रज्ञानाचा घोर गैरवापर” असे केले.
X ने आधी त्याच्या अधिकृत ‘सेफ्टी’ हँडलवर सांगितले होते की ते बाल लैंगिक अत्याचार सामग्री (CSAM) सह बेकायदेशीर सामग्री काढून टाकते, उल्लंघन करणारी खाती कायमची निलंबित करते आणि कायद्याच्या अंमलबजावणीसह सहयोग करते.
“कोणीही बेकायदेशीर सामग्री तयार करण्यासाठी Grok वापरत असेल किंवा त्यांना सूचित करेल की त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील,” मस्कने बेकायदेशीर सामग्रीवर घेतलेल्या भूमिकेचा पुनरुच्चार करत प्लॅटफॉर्मने म्हटले आहे.
विकासासह, सरकारने X ला वापरकर्ता अटी आणि AI वापर प्रतिबंध लागू करण्यासाठी, निलंबन किंवा समाप्ती यांसारख्या मजबूत प्रतिबंधात्मक उपायांची अंमलबजावणी करण्यासाठी आणि IT 202 पुराव्यांनुसार विहित केलेल्या वेळेचे काटेकोर पालन करताना, लागू कायद्यांचे उल्लंघन करून व्युत्पन्न केलेल्या किंवा प्रसारित केलेल्या सर्व सामग्रीचा प्रवेश “विलंब न करता” काढण्यासाठी किंवा अक्षम करण्याच्या सूचना दिल्या आहेत.
भारताव्यतिरिक्त, X ला यूके आणि मलेशियामधील अधिकाऱ्यांकडून छाननीचा सामना करावा लागला आहे.
ऑफकॉम, यूकेचे कम्युनिकेशन्स रेग्युलेटर, सोशल मीडिया पोस्टमध्ये नमूद केले आहे, “आम्ही Grok on X वरील वैशिष्ट्याबद्दल गंभीर चिंतेबद्दल जागृत आहोत जे लोकांच्या कपड्यांशिवाय प्रतिमा आणि लहान मुलांच्या लैंगिक प्रतिमा तयार करतात.”
“यूकेमधील वापरकर्त्यांचे संरक्षण करण्यासाठी त्यांनी त्यांच्या कायदेशीर कर्तव्यांचे पालन करण्यासाठी कोणती पावले उचलली आहेत हे समजून घेण्यासाठी आम्ही X आणि xAI शी त्वरित संपर्क साधला आहे,” असे त्यात म्हटले आहे.
जानेवारी 08, 2026, 09:04 IST
अधिक वाचा
