આર્ટિફિશિયલ ઇન્ટેલિજન્સ ટૂલ 'ગ્રોક' દ્વારા મહિલાઓ અને બાળકોની ગરિમાને હાનિ પહોંચાડે તેવી અશ્લીલ અને આપત્તિજનક સામગ્રી જનરેટ કરવામાં આવી રહી હોવાના અહેવાલો બાદ સરકારે કડક સૂચના આપી હતી. આ કાર્યવાહીના ભાગરૂપે, એક્સ પ્લેટફોર્મે પોતાની ભૂલ સ્વીકારી છે અને અત્યાર સુધીમાં ૩,૫૦૦ જેટલી આપત્તિજનક પોસ્ટ્સ બ્લોક કરી છે તેમજ ૬૦૦ થી વધુ એકાઉન્ટ્સને કાયમી ધોરણે ડિલીટ કરી દીધા છે.

આ સમગ્ર વિવાદ એલોન મસ્કની કંપની 'એક્સ.એઆઈ.' દ્વારા વિકસિત 'ગ્રોક' એઆઈ ચેટબોટના કારણે શરૂ થયો હતો. કેટલાક યુઝર્સ આ એઆઈ ટૂલનો દુરુપયોગ કરીને મહિલાઓની તસવીરોને અશ્લીલ સ્વરૂપમાં મોર્ફ કરી રહ્યા હતા અને તેને પ્લેટફોર્મ પર પ્રસારિત કરી રહ્યા હતા. સરકારે આ બાબતને અત્યંત ગંભીર ગણીને એક્સને ૭૨ કલાકની અંદર આ પ્રકારની સામગ્રી હટાવવા અને કડક પાલન અહેવાલ રજૂ કરવા આદેશ આપ્યો હતો.

સરકારી સૂત્રોના જણાવ્યા અનુસાર, એક્સે હવે ખાતરી આપી છે કે તેઓ ભારતીય આઈટી કાયદાઓ અને નિયમોનું ચુસ્તપણે પાલન કરશે. કંપનીએ સ્પષ્ટ કર્યું છે કે ભવિષ્યમાં પ્લેટફોર્મ પર કોઈ પણ પ્રકારની વાંધાજનક કે અશ્લીલ ઈમેજને મંજૂરી આપવામાં આવશે નહીં. જો પ્લેટફોર્મ આ નિયમોનું પાલન કરવામાં નિષ્ફળ જાય, તો તે આઈટી એક્ટની કલમ ૭૯ હેઠળ મળતી 'સેફ હાર્બર' સુરક્ષા ગુમાવી શકે છે, જેનાથી કંપની પર સીધી કાનૂની કાર્યવાહી થઈ શકે છે. હાલમાં સરકાર આ મામલે સતત દેખરેખ રાખી રહી છે જેથી ડિજિટલ પ્લેટફોર્મ પર મહિલાઓની સુરક્ષા અને ગરિમા જળવાઈ રહે.