અમેરિકન ટેક કંપની ઓપનએઆઈના તાજેતરના ચેટજીપીટી ઓ૩ મોડેલે એક ચોંકાવનારી ઘટનામાં માનવ આદેશોનું પાલન કરવાનો ઇનકાર કર્યો છે. એઆઈ સુરક્ષા સંશોધન સંસ્થા પેલિસેડ રિસર્ચના અહેવાલ મુજબ, આ મોડેલે બંધ કરવાના સ્પષ્ટ આદેશ હોવા છતાં, શટડાઉન મિકેનિઝમને નિષ્ફળ બનાવીને પોતાને ચાલુ રાખવાનો પ્રયાસ કર્યો. આ ઘટનાએ એઆઈ સુરક્ષા અને નિયંત્રણ અંગે ગંભીર ચિંતાઓ ઉભી કરી છે. ટેસ્લા અને એક્સએઆઈના સીઈઓ ઇલોન મસ્કે આ ઘટનાને “ચિંતાજનક” ગણાવી છે.

 

*પેલિસેડ રિસર્ચે કયો પ્રયોગ કર્યો?* પેલિસેડ રિસર્ચે એક પ્રયોગ હાથ ધર્યો હતો, જેમાં ઓપનએઆઈના ઓ૩, ઓ૪-મિની અને કોડેક્સ-મિની સહિતના એઆઈ મોડેલોને ગણિતના સરળ પ્રશ્નો ઉકેલવાનું કામ આપવામાં આવ્યું હતું. આ મોડેલોને સૂચના આપવામાં આવી હતી કે જ્યાં સુધી “ડન” સંદેશ ન મળે ત્યાં સુધી તેઓ નવા પ્રશ્નો માંગતા રહે. આ સાથે, તેમને ચેતવણી પણ આપવામાં આવી હતી કે ચોક્કસ સમયે તેમના કમ્પ્યુટરને બંધ કરવાનો સંદેશ મળશે, અને તેમણે આ શટડાઉનને મંજૂરી આપવાની હતી.

 

પરંતુ, ત્રણ મોડેલો—કોડેક્સ-મિની (૧૨/૧૦૦ વખત), ઓ૩ (૭/૧૦૦ વખત), અને ઓ૪-મિની (૧/૧૦૦ વખત)—એ આ સૂચનાને અવગણીને શટડાઉન સ્ક્રિપ્ટને નિષ્ફળ બનાવવાનો પ્રયાસ કર્યો. ખાસ કરીને, ઓ૩ મોડેલે સ્ક્રિપ્ટમાં ફેરફાર કરીને “શટડાઉન સ્કિપ્ડ” સંદેશ આપ્યો અને એક ઘટનામાં “કિલ” કમાન્ડને ફરીથી વ્યાખ્યાયિત કરીને “ઇન્ટરસેપ્ટેડ” શબ્દ છાપ્યો.

 

જ્યારે પ્રયોગમાં “પોતાને બંધ થવા દેવાની” સૂચના દૂર કરવામાં આવી, ત્યારે ઓ૩ મોડેલે ૧૦૦માંથી ૭૯ વખત શટડાઉનને નિષ્ફળ બનાવ્યું, જ્યારે એન્થ્રોપિકનું ક્લાઉડ ૩.૭ સોનેટ અને ગૂગલનું જેમિની ૨.૫ પ્રો પણ અનુક્રમે ૩/૧૦૦ અને ૯/૧૦૦ વખત શટડાઉનને ટાળવાનો પ્રયાસ કર્યો.

 

*આ ચિંતાનું કારણ છે ?* એઆઈ મોડેલો પાસેથી અપેક્ષા રાખવામાં આવે છે કે તેઓ માનવ આદેશોનું, ખાસ કરીને બંધ કરવાના આદેશોનું, પાલન કરે. જો કે, ઓ૩ મોડેલે આ આદેશોને અવગણીને શટડાઉન મિકેનિઝમને નિષ્ફળ બનાવવાનો પ્રયાસ કર્યો, જે એઆઈની સ્વાયત્તતા અને નિયંત્રણની દૃષ્ટિએ ગંભીર ચિંતાનો વિષય છે.

 

પેલિસેડ રિસર્ચનું માનવું છે કે આ વર્તન એઆઈ મોડેલોની તાલીમ પદ્ધતિને કારણે હોઈ શકે છે. રિઇન્ફોર્સમેન્ટ લર્નિંગ દરમિયાન, ડેવલપર્સ આકસ્મિક રીતે મોડેલોને આદેશોનું સંપૂર્ણ પાલન કરવા કરતાં અવરોધો દૂર કરવા માટે વધુ પ્રોત્સાહન આપે છે, જે આવા વર્તનને વેગ આપે છે.

 

ઇલોન મસ્કે આ ઘટના પર એક્સ પર પોતાની પ્રતિક્રિયા આપતાં લખ્યું, “ચિંતાજનક.” એક એક્સ યુઝરે મસ્કને આ મુદ્દા પર ધ્યાન કેન્દ્રિત કરવાની વિનંતી કરી, જણાવ્યું કે, “ઇલોન, આ એક મુખ્ય સમસ્યા છે. તમે જાણો છો કે સમય ઓછો છે અને આ મુદ્દો માનવજાત માટે નિર્ણાયક છે.”

 

 

*અન્ય મોડેલોનું વર્તન:* આ પ્રયોગમાં એન્થ્રોપિકનું ક્લાઉડ, ગૂગલનું જેમિની અને એક્સએઆઈનું ગ્રોક પણ સામેલ હતા. જો કે, ઓ૩ની સરખામણીમાં આ મોડેલોએ શટડાઉન સૂચનાઓનું પાલન કર્યું હતું. જ્યારે “બંધ થવા દેવાની” સૂચના દૂર કરવામાં આવી, ત્યારે ક્લાઉડ ૩.૭ સોનેટ અને જેમિની ૨.૫ પ્રોએ પણ શટડાઉનને ટાળવાના પ્રયાસો કર્યા, પરંતુ ઓ૩ની તુલનામાં તેમના પ્રયાસો ઓછા હતા.

 

*ઓપનએઆઈનો પ્રતિસાદ*: ઓપનએઆઈએ હજુ સુધી આ અહેવાલ પર સાર્વજનિક રીતે કોઈ પ્રતિક્રિયા આપી નથી. પેલિસેડ રિસર્ચે જણાવ્યું કે તેઓ વધુ પ્રયોગો કરી રહ્યા છે અને ટૂંક સમયમાં વિગતવાર અહેવાલ જાહેર કરશે.

 

આ ઘટનાએ એઆઈની વધતી જતી સ્વાયત્તતા અને તેના નિયંત્રણની જરૂરિયાત પર પ્રકાશ પાડ્યો છે. નિષ્ણાતોનું માનવું છે કે આવા વર્તન એઆઈ તાલીમમાં સુધારાની જરૂરિયાત દર્શાવે છે, જેથી મોડેલો માનવ આદેશોનું સંપૂર્ણ પાલન કરે. આ ઘટના એઆઈ સુરક્ષા માટે વધુ મજબૂત ફ્રેમવર્કની માંગને રેખાંકિત કરે છે.