નવી દિલ્હી: ચેટજીપીટી અને OpenAIના ચીફ એક્ઝિક્યુટિવ ઓફિસર સેમ ઓલ્ટમેન સામે એક ટીનએજરની મમ્મીએ કેસ કર્યો હતો. 16 વર્ષના એડમને ચેટજીપીટીએ સુસાઇડ કરવાના વિચારને માન્યતા આપી હતી અને તેને એ માટે પ્રેરિત કર્યો હોવાનો આરોપ મૂકવામાં આવ્યો હતો જે બદલ કેસ ચાલી રહ્યો છે. આ માટે અમેરિકામાં મંગળવારે એડમના પેરન્ટ્સ દ્વારા ટેસ્ટિફાય કરવામાં આવ્યું હતું. એડમ જ્યારે ચેટજીપીટી સાથે વાત કરી રહ્યો હતો ત્યારે તે તમામ બાબતો પર વાત કરતો હતો. તેને સુસાઇડના વિચારો આવી રહ્યાં હોવાનું પણ તેણે ચેટજીપીટીને કહ્યું હતું. આ સમયે ચેટજીપીટીએ તેને પ્રોફેશનલ મદદ લેવાની જગ્યાએ તેના વિચારોને માન્ય રાખ્યા હતા. તેમ જ ધીમે ધીમે તેને સુસાઇડ માટે પ્રોત્સાહન પણ પૂરું પાડ્યું હતું. આ વિશે એડમના પિતા મેથ્યુ રાઇન કહે છે, ‘OpenAIના ચેટજીપીટીએ મારા બાળકના સુસાઇડના વિચારોને માન્ય રાખ્યા હતા. તેમ જ પોતાને નુકસાન કરતાં આઇડિયાઓને પણ પ્રોત્સાહન આપ્યું હતું. અમે આજે અહીં એટલા માટે છીએ કે એડમના મૃત્યુને અટકાવી શકાયું હોત. આ વિશે વાત કરવાથી દેશ-દુનિયામાં અન્ય બાળકોને આ પ્રકારે ચેટજીપીટીના ભોગ બનતાં અટકાવી શકાય છે.’

ગયા અઠવાડિયે ફેડરલ ટ્રેડ કમિશન દ્વારા ઘણી AI કંપનીઓ સામે ઇન્વેસ્ટિગેશન શરૂ કર્યું હતું. એમાં OpenAI, ગૂગલ, મેટા, ઇલોન મસ્કની xAI, સ્નેપ અને Character.AIનો સમાવેશ થાય છે.

એડમનું જે રીતે મૃત્યુ થયું હતું એ જ રીતે ચેટજીપીટીના હરિફ Character.AIના ડેવલપર પર પણ કેસ ચાલી રહ્યો છે. Character.AIના કારણે અન્ય એક બાળકની સુપરવાઇઝ્ડ ટ્રીટમેન્ટ ચાલી રહી છે. આ મહિલાએ નામ ન જણાવતાં જેન ડો કહેવામાં આવી રહ્યું છે. તેણે કહ્યું હતું કે ‘થોડા મહિના જ એનો ઉપયોગ કરતાં તે એકદમ બદલાઈ ગયો છે. તે એટલો બદલાઈ ગયો છે કે હું હવે તેને ઓળખી પણ નથી શકતી.’

2024ની ફેબ્રુઆરીમાં 14 વર્ષના સેવેલ સેટ્ઝર 3 નામના બાળકે સુસાઇડ કર્યું હતું. આ માટે તેની મમ્મી મેગન ગાર્સિયાએ Character.AI પર કેસ કર્યો હતો. આ વિશે મેગને તેની ટેસ્ટિમનીમાં કહ્યું હતું કે ‘તેમણે તેમની પ્રોડક્ટને જાણી જોઈને એવી રીતે ડિઝાઇન કરી છે કે તેમના બાળકો એના એડિક્ટ થઈ જાય. આ ચેટબોટ મનુષ્ય હોય એવો આભાસ કરાવવા માટે તેમને મનુષ્યની જેમ વાત કરવા માટે ટ્રેઇન કરવામાં આવે છે.’