શું લૉન આપવામાં પુરુષોને વધારે પ્રાધાન્ય આપવામાં આવે છે?

જેમી હેનમેઇર હૅન્સનનો ક્રૅડિટ-સ્કૉર તેમના પતિ ડેવિડ, જેઓ એક 'ટેક. આંત્રપ્રિન્યોર' છે, તેમના કરતાં વધુ સારો હતો. મિલકતમાં તેમનો હિસ્સો પણ સમાન છે અને તેમણે ટૅક્સનાં રિટર્ન પણ સંયુક્ત રીતે ફાઇલ કર્યાં હતાં.

તેમ છતાં ડેવિડને તેમનાં પત્ની કરતાં 20 ગણી વધારે રકમની ક્રૅડિટ મળી. તેમને તેમનાં ઍપલ ક્રૅડિટ-કાર્ડ પર તેમનાં પત્નીને જેટલી ક્રૅડિટ લિમિટ મળી તેનાથી 20 ગણી ક્રૅડિટ મળી.

આ બાબત અહીં જ ના અટકી તેમાં આગળ વધુ રસપ્રદ વાત બહાર આવી. જેમાં ઍપલના સહસ્થાપક સ્ટીવ વૉઝનિઍકે ટ્વીટ કર્યું કે આવું તેમની સાથે પણ થયું છે.

તેમનાં અને તેમનાં પત્નીનાં અલગ ખાતાં કે અલગ-અલગ મિલકતો ન હોવા છતાં તેમને પણ હૅન્સન જેવો જ અનુભવ થયો.

અમેરિકામાં આ અંગે ચર્ચાઓ ઊઠી છે અને વિવાદ પણ થયો છે. જેને પગલે ત્યાંના નિયામકો આ કેસની તપાસ કરી રહ્યા છે.

રાજકારણીઓએ ઍપલ ક્રૅડિટ-કાર્ડનું સંચાલન કરતા ગોલ્ડમૅન શૅક્સની પ્રતિક્રિયાની ટીકા કરી છે.

આ ઘટનાએ મશીન લર્નિંગ અને ઍલ્ગરિધમ (કમ્પ્યૂટર ગણતરી કરવાની પદ્ધતિઓ)ની ભૂમિકા, જે સ્પષ્ટપણે એક અથવા અન્ય રીતે સેક્સિસ્ટ (જાતીય), વંશીય અથવા ભેદભાવપૂર્ણ નિર્ણયો લે છે તે વિશેની ચિંતાઓ પર પ્રકાશ પાથર્યો છે.

સમાજ એવું ખોટું ધારતો આવ્યો છે કે કૉમ્પ્યૂટર નિષ્પક્ષ નિર્ણયો લેતું મશીન છે. એવું ખોટું ધારતો આવ્યો છે કે કૉમ્પ્યૂટર મનુષ્યની જેમ નહીં વિચારતું હોવાથી તે પક્ષપાતી નિર્ણયો ન લઈ શકે.

પરંતુ વાસ્તવિકતા એ છે કે ભૂતકાળનો જે ડેટા પ્રોસેસ કરાયો છે અને ખાસ કરીને કદાચ એ પ્રોગ્રામર્સ જેમણે તે ડેટા તૈયાર અથવા ફીડ કર્યો છે તેઓ ખુદ પક્ષપાતી હતા. જોકે તે બિનઇરાદાપૂર્વકનું હતું.

વળી એ જ રીતે મશીન પણ જાતીયતા વિશેના સવાલો પૂછ્યા વગર આવા નિષ્કર્ષ આપી શકે છે. જાતીયતા વિશેની માહિતી પૂછ્યા વગર પણ તે મહિલા-પુરુષ વચ્ચે ભેદભાવ કરી શકે છે.

આ બાબત આપણા જીવનને કઈ રીતે અસર કરી શકે?

આજના આધુનિક જમાનામાં આપણા રોજિંદા જીવનની સમસ્યાઓ ઘણી બદલાઈ ગઈ છે. કૉમ્પ્યૂટરના ઍલ્ગરિધમની મદદથી બેશક તેમાં સુધારો પણ આવ્યો છે. તેમાં પરિવહનથી લઈને ટેકનૉલૉજી અને શૉપિંગથી લઈને સ્પૉર્ટ્સનો પણ સમાવેશ થાય છે.

જેમાં સૌથી સ્પષ્ટ અને સીધી અસર આપણા આર્થિક જીવન પર થઈ છે. બૅન્ક્સ અને નાણાં ધિરાણ કરનારી સંસ્થાઓ લૉનની અરજીઓનાં મૂલ્યાંકન માટે મશીન-લર્નિંગ પદ્ધતિનો ઉપયોગ કરતા થયા છે. તેમાં મૉર્ગેજનો પણ સમાવેશ થાય છે.

ઇન્સ્યૉરન્સ ઇન્ડસ્ટ્રીમાં પણ જોખમનું સ્તર નક્કી કરવા માટે મશીનનો જ ઉપયોગ થાય છે.

ગ્રાહકે કેટલી ચૂકવણી કરવી પડશે તે નક્કી કરવામાં ઍલ્ગોરિધમની ભૂમિકા મહત્ત્વની હોય છે. વળી તેમને એ પ્રોડક્ટ મળી શકે કે નહીં તે પણ તેનાથી જ નક્કી થઈ જાય છે.

વીમાની વાતનું ઉદાહરણ લઈએ તો એવી બે વ્યક્તિ જેઓ અલગ-અલગ વિસ્તારમાં કે સ્થળે રહે છે અને જેમની પાસે સરખી મિલકત છે અને સરખી સિક્યૉરિટી છે, તેમ છતાં તેમની માટે લૉન ચૂકવણીની શરતો અને પદ્ધતિ મશીન દ્વારા અલગ-અલગ નક્કી થઈ શકે છે.

કેમ કે ઍલ્ગોરિધમ તે પોસ્ટલ કોડના આધારે જે વિસ્તારનો ગુનાનો દર કેટલો છે તેની પણ ચકાસણી કરે છે અને પછી નક્કી પણ કરે છે કે મિલકત કબજે કરાઈ હોય તો તેની શક્યતા કેટલી છે અને તે તમામ અનુસાર તેનું પ્રિમિયમ તૈયાર કરે છે.

ક્રૅડિટ સ્કૉર્સ એટલે કે મશીનનો નિષ્કર્ષ નક્કી કરી શકે છે કે તમને મોબાઇલ ફોનનો કૉન્ટ્રેક્ટ મળશે કે નહીં કે તમે ભાડાનું મકાન લઈ શકશો કે કેમ.

ઍપલ કાર્ડના કેસમાં ખબર નથી કે કઈ રીતે ઍલ્ગોરિધમે આવો નિર્ણય કર્યો કે તેના માટે કયા ડેટાનો ઉપયોગ કર્યો. તેમાં કયા લોકોની નાણાકીય સ્તિથિ જોખમી છે અથવા ભૂતકાળમાં ક્રૅડિટ માટે કોણ અરજીઓ કરતું આવ્યું હતું તે ડેટા સામેલ હોઈ શકે છે.

શું ઍલ્ગોરિધમ પક્ષપાતી હોઈ શકે?

ગોલ્ડમૅન શૅક્સ જેઓ ઍપલ કાર્ડનું સંચાલન કરે છે તેમનું કહેવું છે કે તેઓ અરજીકર્તાને તેમની જાતીયતાની વિગતો, વંશ, વય સહિતની બાબતો નથી પૂછતા. કેમ કે આવું કરવું ગેરકાયદેસર છે. આથી તેઓ પુરુષ છે કે મહિલા તેને આધારે નિર્ણય લેવાયા નથી.

જોકે આ મામલે સૅન ફ્રાન્સિસ્કોમાં ઍપ્લાઇડ ડેટા ઍથિક્સના યુએસએફ સેન્ટરના ડિરેક્ટર રચેલ થોમસનો મત થોડો અલગ છે.

તેમનું કહેવું છે, "ભલે જાતીય કે વંશીય માહિતી ઍલ્ગોરિધમને નથી મળી, તેમ છતાં તે આ વિશે પક્ષપાતી હોઈ શકે છે."

ઉદાહરણ તરીકે જો ઍલ્ગોરિધમ કોઈની જાતીય બાબત ન જાણતું હોય પણ જો તે એવું જાણે છે કે તમે પ્રાઇમરી સ્કૂલના શિક્ષક છો, એવું ક્ષેત્ર જેમાં મહિલાઓનું પ્રભુત્વ છે.

વળી ભૂતકાળના ડેટા ખાસ કરીને વિવાદીત ક્રાઇમ અને જસ્ટિસ મામલેના ડેટા એવા સમયના હોઈ શકે જેમાં મનુષ્યએ નક્કી કરેલા નિષ્કર્ષો જે પોલીસ કે જજ દ્વારા લેવાયા હોય તેમાં કોઈકના વંશનું પરિબળ નિર્ણાયક રહેલું હોય.

ભૂતકાળની ઘટનાઓના ડેટા દ્વારા મશીને નક્કી કરેલા કે સૂચવેલા નિર્ણયો પક્ષપાતી હોઈ શકે છે.

વળી એવો ડેટા જે પહેલાં પ્રોસેસ ન થયો હોય તેને પ્રોસેસ કરવાના કિસ્સામાં સ્થિતિ વધારે ખરાબ થઈ જાય છે.

જેમ કે કોઈ વ્યક્તિ જે શ્વેત નથી અને તેની ભાષામાં પ્રાદેશિકપણું છે તેના ચહેરા અને અવાજને પારખતું ઑટોમૅટેડ મશીન હોય તેમાં તફાવત આવી શકે છે.

કેમ કે તેનાથી વધુ પરિચિત ન હોઈ શકે, જેટલું તે બોલચાલમાં પ્રાદેશિક લહેજો ન ધરાવતા શ્વેત લોકોની ઓળખ માટે પરિચિત હોઈ શકે.

કેમ કે તે મોટાભાગે આવા લોકોની ઓળખ માટે જ તાલીમબદ્ધ થયેલું હોઈ શકે. કૉલ સેન્ટરમાં ફોન કરતી વખતનો અનુભવ તેનું ઉદાહરણ હોઈ શકે.

તેનો ઉકેલ શું?

ઍલ્ગોરિધમની નિષ્પક્ષતા ચર્ચાનો મોટો મુદ્દો રહ્યો છે. જેમાં સરખામણીએ ઓછો એકમત જોવા મળ્યો છે.

એક વિકલ્પ એ છે કે કંપની આ ઍલ્ગોરિધમને કઈ રીતે સેટ કરાયા છે તે મામલે સ્પષ્ટતા કરી દે. જોકે આવી પ્રોડક્ટ કૉમર્સ સંકળાયેલું હોવાથી તે વર્ષોના સમય બાદ કુશળ અને ઉચ્ચ-મહેનતાણું ધરાવતી વ્યક્તિઓ દ્વારા તૈયાર થયેલી હોય છે. આથી તેઓ સામાન્ય રીતે તેમનો સિક્રેટ ફૉર્મ્યુલા જાહેર ન પણ કરી શકે.

ઘણા રિટેઇલર્સને ઍમઝોનનાં ઍલ્ગોરિધમ્સ ફ્રીમાં મળ્ય હોવાથી ખુશીની વાત હોઈ શકે છે.

બીજો વિકલ્પ ઍલ્ગોરિધમની પારદર્શિતાનો છે. જેમાં ગ્રાહકને કહેવામાં આવે કે જે નિર્ણય લેવાયો તે કેમ લેવાયો અને તેમાં ખાસ કરીને કયા ડેટાનો ઉપયોગ થયો છે. જોકે તેમ છતાં આવી માહિતી મામલે બન્ને પક્ષે સહમતિનો મુદ્દો યથાવત રહે છે.

જેનો એક જવાબ એ હોઈ શકે કે નિર્ણય માટે ઓછી નિશ્ચિત માહિતીઓ પર આધારિત વધુ ઍલ્ગોરિધમ્સનો ઉપયોગ થયો હોય એવું પણ બહાર આવી શકે.

બિનઇરાદાપૂર્વકનો પક્ષપાત જણાય તો..?

ચાર્લ્સ ટૅલર ઇન્સ્યૉર ટેકના જેસોન શહોતા વીમાકંપનીને સોફ્ટવૅર પૂરું પાડે છે. તેમનું કહેવું છે કે સામૂહિક રીતે લેવામાં આવતા વીમાનો વધારે ઉપયોગ થઈ રહ્યો છે.

જેમાં વીમાકંપની ઍમ્પ્લૉયર મારફતે ખાસ પ્રકારના કર્મચારી જૂથને હેલ્થની નિશ્ચિત ગ્રૂપ પૉલીસી ઑફર કરે છે. જેમાં તે ફોર્મમાં કર્મચારીઓ પાસેથી વિગતો નથી લેતી પરંતુ તે વ્યક્તિગત નહીં પણ સમગ્ર પૉલિસી પ્રોડક્ટના આખા રિસ્ક ફૅક્ટરનું મૂલ્યાંકન છે.

તેમનું કહેવું છે કે ગ્રાહકની ઝડપથી પ્રક્રિયા પૂર્ણ કરવાની માગ અને ત્વરિત ચૂકવણીની ઇચ્છાને પગલે વીમાકંપનીઓ તેની પ્રક્રિયાને વધુ સરળ બનાવી રહી છે.

કેમ કે વધુ પડતા ડેટાને કારણે અરજીકર્તાની વર્ગીકરણની પ્રક્રિયા પણ મુશ્કેલ બની જશે અને તેથી જે પ્રોડક્ટ નક્કી થશે તેની કિંમત પણ વધારે થઈ જશે.

સાહોટા કહે છે કે આ જ કારણ છે કે ગ્રાહકને કહેવું જોઈએ કે કઈ માહિતી કેમ લેવાઈ રહી છે અને તેનો શું ઉપયોગ કરવામાં આવશે.

તેમણે વધુમાં ઉમેર્યું કે જો તેમાં કંઈ પણ બાબત બિનઇરાદાપૂર્વકની પક્ષપાતી જણાય તો તેમાં ડેટાનો દોષ કાઢ્યા વગર તે સમસ્યાનો ઉકેલ શોધવાનો પ્રયાસ કરવો જોઈએ.

તમે અમને ફેસબુક, ઇન્સ્ટાગ્રામ, યૂટ્યૂબ અને ટ્વિટર પર ફોલો કરી શકો છો