લંડનઃ યુકે સરકાર દ્વારા વેલ્ફેર ફ્રોડને શોધવામાં ઉપયોગમાં લેવાતી આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) સિસ્ટમ દ્વારા જ પક્ષપાત કે પૂર્વગ્રહ આચરાતો હોવાનું બહાર આવ્યું છે. આ સિસ્ટમના નિર્ણયોને લોકોની વય, ડિસેબિલિટી, લગ્નના દરજ્જા અને નાગરિકતા જેવા મુદ્દાઓ પ્રભાવિત કરે છે. હજારો વેલ્ફેર-યુનિવર્સલ ક્રેડિટ પેમેન્ટ્સ ક્લેઈમ્સની ચકાસણીમાં સંભવિત ફ્રોડ માટે કોની તપાસ કરવી તેની ભલામણ કરવામાં આ સિસ્ટમે અન્યોની સરખામણીએ કેટલાક જૂથોના લોકોને ખોટી રીતે પસંદ કર્યા હતા.
ફ્રીડમ ઓફ ઈન્ફોર્મેશન એક્ટ અન્વયે ડિપાર્ટમેન્ટ ફોર વર્ક એન્ડ પેન્શન્સ (DWP) દ્વારા જારી દસ્તાવેજોમાં આ કબૂલાત કરાઈ હતી. આ વર્ષે ફેબ્રુઆરીમાં યુનિવર્સલ ક્રેડિટ એડવાન્સીસ માટે ઓટોમેટેડ સિસ્ટમની ‘ફેરનેસ એનાલિસીસ’માં નોંધપાત્ર આંકડાકીય વિસંગતતા બહાર આવી હતી. અગાઉ, DWPએ જાહેર કર્યું હતું કે AI સિસ્ટમથી ભેદભાવ, ગેરવાજબી વ્યવહાર અથવા ગ્રાહકો પર ખરાબ અસર થવાની કોઈ ચિંતા જણાતી નથી. અધિકારીઓ માને્ છે કે આ સિસ્ટમથી દર વર્ષે ફ્રોડ અને ભૂલમાં ગુમાવાતા 8 બિલિયન પાઉન્ડ બચાવી શકાશે.
જોકે, દસ્તાવેજોએ જણાવ્યા અનુસાર જાતિ, સેક્સ, સેક્સ્યુઅલ માનસિકતા, અને ધર્મ, અથવા ગર્ભાવસ્થા, માતૃત્વ અને જેન્ડર રિએસાઈન્મેન્ટ સ્ટેટસના સંદર્ભે કોઈ ફેરનેસ એનાલિસીસ કરવામાં આવ્યું ન હતું. કેમ્પેઈનર્સે સરકારની પોલિસી ‘હર્ટ ફર્સ્ટ, ફિક્સ લેટર’ની હોવાનો આક્ષેપ લગાવ્યો છે.
