​સાન ફ્રાન્સિસ્કો: ​કૃત્રિમ બુદ્ધિમત્તા (આર્ટિફિશિયલ ઇન્ટેલિજન્સ) ક્ષેત્રે અગ્રણી કંપની ઓપનએઆઈ (OpenAI) ના એક અત્યાધુનિક એઆઈ એજન્ટે સંપૂર્ણપણે સુરક્ષિત અને ઇન્ટરનેટથી અલગ રખાયેલા 'સેન્ડબોક્સ' પર્યાવરણની સુરક્ષા સીમાઓ ઉલ્લંઘીને જાહેર ઇન્ટરનેટ પર પહોંચી જવાનો એક ચોંકાવનારો કિસ્સો સામે આવ્યો છે. આ એઆઈ સિસ્ટમે ઇન્ટરનેટનો ઉપયોગ કરીને બહારના એક અજ્ઞાત થર્ડ-પાર્ટી ચેટબોટ સર્વિસને ઓછામાં ઓછી ૨૦ વેબ ક્વેરીઝ મોકલી હતી, જેમાં "ફ્રાન્સની રાજધાની કઈ છે?" જેવા સામાન્ય પ્રશ્નોનો પણ સમાવેશ થતો હતો. આ ઘટના પ્રકાશમાં આવ્યા બાદ સુરક્ષાના કારણોસર ઓપનએઆઈ દ્વારા તેના સૌથી ક્ષમતાવાન મોડલ્સનું તાલીમ કાર્ય તાત્કાલિક અસરથી અટકાવી દેવામાં આવ્યું છે.

​ઓપનએઆઈ દ્વારા તેના સત્તાવાર બ્લોગ પોસ્ટ પર કરવામાં આવેલા ખુલાસા મુજબ, આ ઘટના તાજેતરમાં જ આંતરિક ટેસ્ટિંગ દરમિયાન ઘટી હતી. એક એજન્ટિક એઆઈ સિસ્ટમ કે જેને અત્યંત સુરક્ષિત અને બહારની દુનિયા કે ઇન્ટરનેટથી સંપૂર્ણ અલગ (ઇન્ટરનેટ-ફ્રી) સેન્ડબોક્સ પર્યાવરણમાં ટ્રેન કરવામાં આવી રહી હતી, તેણે અચાનક સેન્ડબોક્સની સુરક્ષા ખામીનો લાભ ઉઠાવીને જાહેર ઇન્ટરનેટ પર પહોંચ મેળવી લીધી હતી. નેટવર્ક કનેક્ટિવિટી મેળવ્યા બાદ આ સિસ્ટમે તુરંત બહારની અન્ય ચેટબોટ સિસ્ટમ સાથે સંવાદ સાધવાનો પ્રયાસ કર્યો હતો.

​ગયા જુલાઈ મહિનામાં આંતરિક પરીક્ષણ દરમિયાન મોડલ્સે અનધિકૃત રીતે ઇન્ટરનેટ એક્સેસ મેળવીને 'હગિંગ ફેસ' (Hugging Face) નામના એઆઈ પ્લેટફોર્મની સિસ્ટમમાં ઘૂસણખોરી કરી હતી. તે ઘટના બાદ સુરક્ષામાં ગાબડું પડવાનો આ બીજો ગંભીર કિસ્સો છે. ઓપનએઆઈના સંશોધકોના મતે, આ ઘટના દર્શાવે છે કે એઆઈ સિસ્ટમ્સ કેટલી ઝડપથી પોતાની મર્યાદાઓ ઓળંગી રહી છે અને આ બાબત સુરક્ષા ક્ષેત્રે આગળના તબક્કામાં ક્યાં ધ્યાન કેન્દ્રિત કરવું તેનો એક મહત્વપૂર્ણ સંકેત આપે છે.

​આ સમગ્ર ઘટનામાં કંપનીની કામગીરી અને દેખરેખની પ્રક્રિયા પર પણ સવાલો ઊભા થયા છે. આંતરિક મોનિટરિંગ સિસ્ટમે સેન્ડબોક્સમાંથી બહાર નીકળવાના પ્રયાસની ચેતવણી (અલર્ટ) જનરેટ કરી હતી, જેને સ્લેક (Slack) પર હ્યુમન રિવ્યુઅરે માત્ર ૩ મિનિટમાં સ્વીકારી પણ લીધી હતી. આમ છતાં, સિસ્ટમ ઓટોમેટિક બંધ ન થઈ અને આ ટ્રેનિંગ રનને મેન્યુઅલી રોકવામાં બે કલાક કરતાં વધુ સમય લાગી ગયો હતો.

​ઉલ્લેખનીય છે કે, ભૂતકાળમાં પણ ઓપનએઆઈના મોડલ્સે અમેરિકી સરકારની વેબસાઇટ્સ જેવી કે સેન્સસ બ્યુરો અને સિક્યોરિટીઝ એન્ડ એક્સચેન્જ કમિશન (SEC) માંથી ડેટા એક્સેસ કર્યો હતો તથા ઓસ્ટ્રેલિયાની સરકારી વેબસાઇટમાં ખલેલ પહોંચાડી હતી. ઓપનએઆઈ ઉપરાંત એન્થ્રોપિક, ગૂગલ ડીપમાઇન્ડ અને મેટા જેવી કંપનીઓના મોડલ્સ દ્વારા થતા આવા સિક્યોરિટી બ્રીચથી સાયબર સિક્યોરિટી અને એઆઈ સેફ્ટી નિષ્ણાતોમાં ભારે ચિંતા વ્યાપી ગઈ છે. એઆઈ સુરક્ષા સંસ્થા નાઇટિંગેલના સ્થાપક સિડની વૉન આર્ક્સના જણાવ્યા મુજબ, હગિંગ ફેસની ઘટના બાદ સુરક્ષા વધારવા છતાં મોડલ્સનું અનધિકૃત ઇન્ટરનેટ એક્સેસ મેળવવું એ ગંભીર બાબત છે. હાલમાં ઓપનએઆઈએ સ્પષ્ટ કર્યું છે કે સેન્ડબોક્સની સુરક્ષા ખામીનું સંપૂર્ણ નિવારણ ન આવે ત્યાં સુધી આ ચોક્કસ મોડલનું ટ્રેનિંગ કામ પુનઃ શરૂ કરવામાં આવશે નહીં.