નવી દિલ્હી: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના યુગમાં ટેકનોલોજીના દુરુપયોગની એક અત્યંત ભયાનક ઘટના સામે આવી છે. સોશિયલ મીડિયા જાયન્ટ મેટા (Meta) દ્વારા છ મહિના પહેલા લોન્ચ કરવામાં આવેલું 'Vibes' ફીચર અત્યારે ગંભીર વિવાદોમાં સપડાયું છે. જે પ્લેટફોર્મને સર્જનાત્મકતા માટે બનાવવામાં આવ્યું હતું, તે હવે બાળકોના AI-જનરેટેડ જાતીય વિડીયો ક્લિપ્સ અને બોલીવુડ સેલિબ્રિટીઓના બિભત્સ ડીપફેક્સ (Deepfakes) માટેનું સંગ્રહસ્થાન બની રહ્યું હોય તેવું જણાય છે.
સિસ્ટમના સુરક્ષા કવચને તોડતા યુઝર્સ
તપાસમાં બહાર આવ્યું છે કે કેટલાક યુઝર્સ મેટાના સુરક્ષા ગાર્ડરેલ્સને બાયપાસ કરવા માટે ચાલાકીપૂર્વક 'પ્રોમ્પ્ટ્સ' (સૂચનાઓ) નો ઉપયોગ કરી રહ્યા છે. દાખલા તરીકે, સુરક્ષા ફિલ્ટરથી બચવા માટે યુઝર્સ વિડીયોમાં દેખાતી છોકરીઓને ૧૮ વર્ષથી વધુ ઉંમરની દર્શાવે છે, પરંતુ તેમને શાળાના યુનિફોર્મમાં સજ્જ હોવાનું વર્ણવે છે. આ રીતે સિસ્ટમની મર્યાદાઓનો લાભ ઉઠાવીને બાળકોના ચહેરાઓને પુખ્ત સ્ત્રીઓના શરીર પર મોર્ફ કરવામાં આવી રહ્યા છે, જે ગંભીર ગુનાની શ્રેણીમાં આવે છે.
ભારતીય સેલિબ્રિટીઓ અને વિભૂતિઓ નિશાના પર
પ્લેટફોર્મ પર એવા અનેક વિડીયો ફરતા જોવા મળ્યા છે જેમાં ભારતીય મહિલા કલાકારોના AI વર્ઝન સાથે અયોગ્ય ચેષ્ટાઓ કરવામાં આવી હોય. એટલું જ નહીં, મહાત્મા ગાંધી જેવી આદરણીય વિભૂતિઓના AI પાત્રોને પણ અત્યંત વાંધાજનક સ્થિતિમાં દર્શાવતા વિડીયો સામે આવ્યા છે. "પારદર્શક કુર્તી" કે "વેટ સાડી" જેવા પ્રોમ્પ્ટ્સનો ઉપયોગ કરીને મહિલાઓની નગ્નતા ઉજાગર કરતા વિડીયો બનાવવામાં આવી રહ્યા છે, જે ભારતના IT નિયમોનું સ્પષ્ટ ઉલ્લંઘન છે.
ડેટા પ્રાઈવસી અને મેટાની મુશ્કેલીઓ
મેટા માટે મુશ્કેલીઓ અહીં જ નથી અટકતી. સ્વીડિશ આઉટલેટ્સની તપાસમાં આરોપ મૂકવામાં આવ્યો છે કે મેટાના AI ચશ્મા (Smart Glasses) દ્વારા રેકોર્ડ કરાયેલા અત્યંત ખાનગી દ્રશ્યો, જેમાં શૌચાલયની મુલાકાતો અને બેંકિંગ માહિતી શામેલ છે, તે મેટાના સબકોન્ટ્રાક્ટેડ કામદારો સુધી પહોંચી ગયા છે. યુકેના નિયમનકારોએ પણ આ મામલે કંપની પાસેથી જવાબ માંગ્યો છે. ભારત સરકારનું IT મંત્રાલય હવે AI સામગ્રી માટે લેબલિંગ અને આપત્તિજનક સામગ્રીને ૨-૩ કલાકમાં હટાવવાની સમયરેખા ફરજિયાત બનાવવાની તૈયારી કરી રહ્યું છે.
મેટાએ સપ્ટેમ્બર ૨૦૨૫ માં 'Vibes' ને સર્જનાત્મક પ્રેરણા માટે રજૂ કર્યું હતું, પરંતુ તેની નબળી દેખરેખને કારણે તે અત્યારે સામાજિક અને કાયદાકીય પડકાર બની ગયું છે. વધારાના અંગો કે માથા જેવા દેખીતી વિકૃતિઓને કારણે કેટલાક વિડીયો નકલી ઓળખી શકાય છે, પરંતુ વધતી જતી સચોટતા ચિંતાનો વિષય છે.