નવી દિલ્હી : આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના ક્ષેત્રમાં થઈ રહેલી ઝડપી પ્રગતિ વચ્ચે, અગ્રણી AI સંશોધન સંસ્થા 'એન્થ્રોપિક' (Anthropic) દ્વારા એક ગંભીર ચેતવણી જારી કરવામાં આવી છે. સંસ્થાએ જણાવ્યું છે કે જો AI મોડેલ્સ 'ફુલ્લી રિકર્સિવ સેલ્ફ-ઇમ્પ્રૂવમેન્ટ' (Fully Recursive Self-Improvement) એટલે કે પોતાની જાતે જ પોતાનો કોડ અને ક્ષમતાઓ વિકસાવવાની ક્ષમતા પ્રાપ્ત કરી લેશે, તો તે માનવ નિયંત્રણની બહાર જઈ શકે છે. આ ટેકનિકલ પ્રગતિ કદાચ એવી સ્થિતિ પેદા કરી શકે છે જ્યાં મનુષ્યોનું આ શક્તિશાળી તકનીક પરનું આધિપત્ય જ સમાપ્ત થઈ જાય.

શું છે 'રિકર્સિવ સેલ્ફ-ઇમ્પ્રૂવમેન્ટ'નું જોખમ?

સરળ શબ્દોમાં કહીએ તો, અત્યાર સુધી AI ને માનવ પ્રોગ્રામરો દ્વારા તાલીમ આપવામાં આવે છે. પરંતુ જો AI પોતાની જાતને જ 'સુધારવા' લાગે અને નવા પ્રોગ્રામિંગ દ્વારા પોતાની બુદ્ધિમત્તાને ગુણાકારની ઝડપે વધારવા લાગે, તો તે 'ઇન્ટેલિજન્સ એક્સપ્લોઝન' (Intelligence Explosion) તરફ દોરી શકે છે. એન્થ્રોપિકના નિષ્ણાતો માને છે કે એકવાર AI એ સ્તરે પહોંચી જાય, પછી માનવ સમજણ અને AI ની તર્કશક્તિ વચ્ચેનું અંતર એટલું વધી જશે કે તેને રોકવું અથવા સમજવું મનુષ્યો માટે અશક્ય બની જશે.

નિષ્ણાતોની ચિંતા: શું આપણે 'કંટ્રોલ' ગુમાવી રહ્યા છીએ?

આ અહેવાલ માત્ર તકનીકી જ નથી, પરંતુ સુરક્ષાની દૃષ્ટિએ પણ અત્યંત મહત્વપૂર્ણ છે. જો AI પોતાની મરજીથી નિર્ણયો લેતું થાય અને તેના ઉદ્દેશ્યો માનવીય મૂલ્યો સાથે સુસંગત ન રહે, તો તે સામાજિક અને સુરક્ષાની દૃષ્ટિએ ગંભીર પરિણામો લાવી શકે છે. અહેવાલમાં કહેવામાં આવ્યું છે કે અત્યારના AI મોડેલ્સ હજુ આ સ્થિતિથી દૂર છે, પરંતુ જે ગતિએ સંશોધનો થઈ રહ્યા છે, તે જોતાં ભવિષ્યમાં 'સેફ્ટી ગાર્ડરેલ્સ' (સુરક્ષા કવચ) વિકસાવવા અનિવાર્ય છે.

ટેક દુનિયામાં નવો જંગ: ઝડપી પ્રગતિ કે સુરક્ષિત પ્રગતિ?

આ ચેતવણી પછી ટેક કંપનીઓ અને નિયમનકારો વચ્ચે એક નવી ચર્ચા છેડાઈ છે. શું આપણે AI ની ક્ષમતાઓને મર્યાદિત રાખવી જોઈએ? કે પછી એવી 'સેફ્ટી લેયર્સ' બનાવવી જોઈએ કે જે AI ને પોતાની જાતને સુધારતી વખતે ચોક્કસ મર્યાદાઓ ઓળંગતા અટકાવે? એન્થ્રોપિકનું માનવું છે કે હવે માત્ર ટેકનોલોજી બનાવવા પર ધ્યાન આપવાને બદલે, તેને 'નિયંત્રિત' રાખવાની ટેકનોલોજી પર વધુ ભાર આપવાની જરૂર છે.