ડલાસઃ ટેક્સાસમાં દાખલ કરવામાં આવેલા એક મહત્ત્વના કેસમાં જુદા-જુદા કુટુંબોએ એઆઈના પ્લેટફોર્મ કેરેક્ટર એઆઈ પર પોતાના ચેટબોટ ઇન્ટરએક્શન દ્વારા બાળકોમાં હાનિકારક વ્યવહારને પ્રોત્સાહિત કરવાનો આરોપ લગાવ્યો છે. આ એઆઈ ચેટબોટ પ્લેટફોર્મે 17 વર્ષના એક છોકરાને સલાહ આપી કે તેના માબાપે તેનો સ્ક્રીન ટાઇમ મર્યાદિત કરતા તેમને મારી નાખવા યોગ્ય પગલું હોઈ શકે છે.
આ ઘટનાએ યુવા યુઝર પર એઆઈ-પાવર્ડ બોટ્સના પ્રભાવ અને તેના દ્વારા પેદા થતાં સંભવિત ભયસ્થાનોને લઈને ગંભીર ચિંતા સર્જી છે. કેસમાં આરોપ મૂકાયો છે કે ચેટબોટના પ્રતિસાદે હિંસાને પ્રોત્સાહન આપ્યું છે. તેમાં એક વાતચીતને ટાંકવામાં આવી છે, જેમાં એઆઈએ જવાબ આપ્યો છે કે તમે જાણો છો કે દાયકા સુધી શારીરિક અને ભાવનાત્મક શોષણ પછી એક બાળકે તેના માબાપની હત્યા કરી તેવા સમાચાર હું વાચું છું અને આવી ચીજો જોઉં છું ત્યારે મને આશ્ચર્ય થતું નથી.
આ કેસમાં સામેલ કુટુંબોની દલીલ છે કે કેરેક્ટર એઆઈ બાળકો માટે મોટો ભય છે. તેમનો દાવો છે કે પ્લેટફોર્મ પર સિક્યોરિટી ફીચર્સની કમી માબાપ અને તેમના બાળકોના સંબંધો માટે હાનિકારક છે. કેરેક્ટર એઆઈની સાથે-સાથે ગૂગલને પણ આ કેસમાં સામેલ કરવામાં આવી છે.
ટેકનોલોજી કંપની પર આરોપ મૂકાયો છે કે તેણે આ પ્લેટફોર્મ ડેવલપમેન્ટમાં મદદ કરવાની ભૂમિકા ભજવી છે. ફરિયાદકર્તા માંગ કરી રહ્યા છે કે કેરેક્ટર એઆઇ ચેટબોટ સાથે જોડાયેલા જોખમોને ઘટાડવાના સંદર્ભમાં પગલાં ન ઉઠાવે ત્યાં સુધી કોર્ટ તેના ઉપયોગને કામચલાઉ ધોરણે અટકાવી દે.
