નવી દિલ્હી : સુપ્રીમ કોર્ટમાં ન્યાયમૂર્તિઓ પણ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના દુરુપયોગથી થતા પડકારો અંગે ગંભીર ચિંતા વ્યક્ત કરી રહ્યા છે. જનરેટિવ AI (GenAI) પર દાખલ કરવામાં આવેલી એક જાહેર હિત અરજીની સુનાવણી દરમિયાન, CJI BR ગવઈએ એક ચોંકાવનારી ટિપ્પણી કરી: "હા, હા... અમે પણ અમારા મોર્ફ કરેલા ફોટા જોયા છે." આ ટિપ્પણી સ્પષ્ટપણે દર્શાવે છે કે ન્યાયતંત્ર પણ AI અને ડિજિટલ ટૂલ્સનો ઉપયોગ કરીને ન્યાયાધીશોને નિશાન બનાવતી નકલી પ્રોફાઇલ, સંપાદિત વિડિઓઝ અને ખોટા નિવેદનોની વધતી ઘટનાઓથી મુક્ત નથી.

GenAI શા માટે ખતરો છે?: અરજદાર કાર્તિકેય રાવલે કોર્ટને ન્યાયતંત્રમાં GenAI ના ઉપયોગ માટે નીતિ અને માળખું સ્થાપિત કરવા વિનંતી કરી છે. અરજીમાં GenAI ને પરંપરાગત AI કરતાં વધુ ખતરનાક ગણાવતા, મુખ્ય ખતરાઓ દર્શાવ્યા છે:

'બ્લેક બોક્સ' ટેકનોલોજી: GenAI ની ડેટા પ્રોસેસિંગ પ્રક્રિયા પારદર્શક ન હોવાથી, તે ભારતીય ન્યાયિક પ્રણાલીમાં અસ્પષ્ટતા અને મૂંઝવણ પેદા કરી શકે છે.

'ભ્રમ' (Hallucination)નો ખતરો: સિસ્ટમ એવા કાલ્પનિક ડેટા, ખોટા કેસ કાયદા અને પક્ષપાતી ચુકાદાઓ ઉત્પન્ન કરી શકે છે, જે વાસ્તવિકતામાં અસ્તિત્વમાં ન હોય.

કલમ 14નું ઉલ્લંઘન: આવી બનાવટી માહિતી, ખોટા કેસ કાયદો અને પક્ષપાતી ચુકાદાઓ કલમ 14 (સમાનતાનો અધિકાર)નું ઉલ્લંઘન કરશે.

ડેટા પૂર્વગ્રહ: જો GenAI નો તાલીમ ડેટા સમાજમાં હાજર અસમાનતાઓ અને ભેદભાવ પર આધારિત હશે, તો તે હાશિયામાં ધકેલાઈ ગયેલા સમુદાયો (જેમ કે મહિલાઓ, દલિતો કે લઘુમતીઓ) માટે પક્ષપાતી ભલામણો અથવા નિષ્કર્ષો તરફ દોરી શકે છે.

અરજીમાં માંગ કરવામાં આવી છે કે ભવિષ્યમાં ન્યાયતંત્રમાં AI નો ઉપયોગ થાય તો, ડેટા માલિકી સ્પષ્ટ હોવી જોઈએ અને કોઈપણ AI પરિણામો માટે માનવ હસ્તક્ષેપ અથવા સમીક્ષા પ્રક્રિયા ફરજિયાત હોવી જોઈએ.