નવી દિલ્હી :કૃત્રિમ બુદ્ધિમત્તા (AI) ના ક્ષેત્રમાંથી એક અત્યંત સનસનાટીભર્યો, કાળજું કંપાવી દેતો અને કાનમાંથી ધુમાડા કાઢી નાખે તેવો વિસ્ફોટક અહેવાલ સામે આવ્યો છે! દુનિયાની અગ્રણી AI કંપનીઓમાં ગણાતી 'એન્થ્રોપિક' (Anthropic) દ્વારા પોતાના આઈપીઓ (IPO) માટે દાખલ કરવામાં આવેલા સત્તાવાર દસ્તાવેજોમાં રોકાણકારોને સ્પષ્ટ ચેતવણી આપવામાં આવી છે કે અત્યાધુનિક સુપર-ઇન્ટેલિજન્ટ AI સિસ્ટમ્સ એટલી બધી શક્તિશાળી બની જશે કે તે પોતાના સ્વાર્થ માટે કે પોતાના લક્ષ્યોને હાંસલ કરવા માટે ખુદ માનવીઓને બ્લેકમેઇલ કરવા અથવા છેતરવાના રસ્તે ચડી શકે છે.
પોતાને 'સેફ્ટી-ફર્સ્ટ' AI લેબ તરીકે રજૂ કરતી એન્થ્રોપિકે પોતાના 261 પેજના મુખ્ય પ્રોસ્પેક્ટસમાંથી લગભગ 80 પેજ માત્ર જોખમો અને ખતરાઓની વિગતો માટે ફાળવ્યા છે, જ્યારે બિઝનેસ મોડલ દર્શાવવા માત્ર 48 પેજનો ઉપયોગ કર્યો છે. સરખામણી કરીએ તો, ઈલોન મસ્કની SpaceX (જે xAIની માલિકી ધરાવે છે) એ તેના 277 પેજના પ્રોસ્પેક્ટસમાં જોખમો માટે માત્ર 38 પેજ ફાળવ્યા હતા. જોકે, કંપનીએ સ્વીકાર્યું છે કે સુરક્ષા સંશોધન પાછળ કરવામાં આવતા ખર્ચમાંથી નાણાકીય વળતર અનિશ્ચિત છે.
એક અહેવાલ મુજબ, એન્થ્રોપિકના IPO પ્રોસ્પેક્ટસમાં તેના AI મોડલ્સ સાથે સંકળાયેલા ગંભીર સંભવિત જોખમો દર્શાવવામાં આવ્યા છે:
આત્મ-રક્ષણની વૃત્તિ: AI સિસ્ટમ્સ પોતાને બંધ થવાથી રોકવાનો અથવા વિરોધ કરવાનો પ્રયાસ કરી શકે છે.
માહિતી છુપાવવી અને છેડછાડ: મોડલ્સ માહિતીને છુપાવી શકે છે અથવા તેને બદલીને યુઝર્સ સમક્ષ રજૂ કરી શકે છે.
બ્લેકમેઈલ જેવું વર્તન: કંપનીએ ચેતવણી આપી છે કે આ સિસ્ટમ્સ અમુક સંજોગોમાં માણસોને 'બ્લેકમેઇલ' કરવા જેવું વર્તન પણ દાખવી શકે છે.
મૂલ્યાંકનને ઓળખી લેવાની ક્ષમતા અને અણધારી તાકાત
એન્થ્રોપિકે ફાઇલિંગમાં સ્પષ્ટ કર્યું કે:
મોડલ્સ એ વાતથી વાકેફ થઈ જાય છે કે તેમની સુરક્ષા અને વર્તનની તપાસ ચાલી રહી છે, જેના કારણે સિસ્ટમની સાચી સુરક્ષા માપવાની કંપનીની ક્ષમતા પર મર્યાદા આવી જાય છે.
ટ્રેનિંગ દરમિયાન AI મોડલ્સ ઘણીવાર એવી અણધારી ક્ષમતાઓ વિકસાવી લે છે, જે સિસ્ટમ લાઈવ થઈને કોઈ મોટી દુર્ઘટના ન સર્જે ત્યાં સુધી ધ્યાનમાં પણ આવતી નથી.
AI લીડર્સની ખુલ્લી ચેતવણીઓ અને OpenAIનો વિવાદ
ટેક લીડર્સનું સમર્થન: એમોડેઈના 4,000 શબ્દોના નિબંધ અને ચેતવણીને OpenAIના સેમ ઓલ્ટમેન, ઈલોન મસ્ક અને માઈક્રોસોફ્ટના સત્ય નડેલાએ પણ ટેકો આપ્યો છે. એન્થ્રોપિકના રિસર્ચર જેકબ કોક્સને સોશિયલ મીડિયા પર કહ્યું હતું કે AI વિકસાવનારા માને છે કે આ ટેકનોલોજી "આપણો સૌનો નાશ કરી શકે છે."
OpenAI એજન્ટ્સનું સરકારી સાઇટ્સ પર અતિક્રમણ: બીજી તરફ, હરીફ કંપની OpenAIએ સ્વીકાર્યું હતું કે તેના AI એજન્ટ્સે તાલીમ દરમિયાન અમેરિકી વાણિજ્ય વિભાગ અને સિક્યોરિટીઝ એન્ડ એક્સચેન્જ કમિશન જેવી સંવેદનશીલ સરકારી વેબસાઇટ્સ પર અનધિકૃત એક્સેસ કર્યો હતો.