లింగ వివక్ష: బ్యాంకులు రుణాలు ఇవ్వడంలో వివక్షతో కూడిన డేటాను అనుసరిస్తున్నాయా?..

జామీ హీన్‌మీయర్ హాన్సాన్‌కు తన భర్త టెక్ వ్యాపారవేత్త డేవిడ్ కన్నా మెరుగైన క్రెడిట్ స్కోర్ ఉంది. వారికి తమ ఆస్తిలో సమాన వాటాలున్నాయి. ఆదాయ పన్ను రిటర్నులను జాయింట్‌గా సమర్పిస్తారు.

కానీ, డేవిడ్‌కు అతడి భార్య కన్నా ఇరవై రెట్లు ఎక్కువ రుణం తీసుకోవటానికి ఆపిల్ కార్డ్ అనుమతి ఇచ్చింది.

ఇదేదో అరుదైన ఉదంతం కాదు. యాపిల్ సహ వ్యవస్థాపకుడు స్టీవ్ వాజ్నియాక్ కూడా తాను, తన భార్యకు వేరే బ్యాంక్ అకౌంట్లు, వేరే ఆస్తులు లేకపోయినా తమ విషయంలోనూ ఇలాగే జరిగిందని ట్వీట్ చేశారు.

ఈ అంశం అమెరికాలో ప్రజల ఆగ్రహానికి కారణమైంది. నియంత్రణ సంస్థలు దర్యాప్తు చేస్తున్నాయి. ఆపిల్ కార్డును నిర్వహించే గోల్డ్‌మాన్ సాక్స్ ‌సంస్థను రాజకీయ నాయకులు విమర్శించారు.

అయితే, ఇలా లింగ వివక్ష, జాతి వివక్ష లేదా మరో రకమైన వివక్షతో నిర్ణయాలు తీసుకోవటంలో మెషీన్ లెర్నింగ్ ఆల్గోరిథమ్‌ల - అంటే కంప్యూటర్ అంచనాలు వేయటానికి సంబంధించిన నియమనిబంధనల - పాత్ర ఆందోళన రేకెత్తిస్తోంది.

కంప్యూటర్లు నిష్పాక్షికమైన యంత్రాలని, మనుషుల తరహాలో ఆలోచించలేవు కాబట్టి అవి వివక్ష చూపవని సమాజం పొరపాటుపడుతుంది.

వాస్తవం ఏమిటంటే, అవి ప్రాసెస్ చేసే సమాచారం, బహుశా వాటికి ఆ డాటాను అందించే వారు, వాటిని తయారు చేసే వారు స్వయంగా వివక్షాపూరితంగా ఉంటారు. ఎక్కువ శాతం తాము వివక్షాపూరితంగా వ్యవహరిస్తున్నామని వారికి కూడా తెలియదు.

అలాగే, యంత్రాలు కూడా లింగ సమాచారం వంటి నిర్దిష్ట ప్రశ్నలు అడగకుండానే పురుషులు, మహిళల మధ్య వివక్షాపూరిత నిర్ధారణలకు రాగలవు.

మన జీవితాల మీద ప్రభావం ఏమిటి?

కంప్యూటర్ ఆల్గోరిథమ్‌ల వినియోగం వల్ల మన రోజువారీ జీవితాల్లో చాలా అంశాలు - రవాణా నుంచి సాంకేతిక పరిజ్ఞానం వరకూ కొనుగోళ్ల నుంచి క్రీడల వరకూ - మారిపోవటమే కాదు.. మెరుగుపడ్డాయనటంలో సందేహం లేదు.

ముఖ్యంగా, మన ఆర్థిక జీవితాలపై విస్పష్టమైన, ప్రత్యక్ష ప్రభావం ఉంది. బ్యాంకులు, ఇతర రుణ సంస్థలు గృహ రుణాలు తదితర రుణ దరఖాస్తులను ప్రాసెస్ చేయటానికి మెషీన్ లెర్నింగ్ టెక్నాలజీని ఉపయోగిస్తాయి. బీమా రంగం కూడా రిస్కు స్థాయిని నిర్ధారించటానికి మెషీన్ల మీదే ఆధారపడుతోంది.

ఒక వినియోగదారు దేనికైనా ఎంత చెల్లించాల్సి ఉంటుంది, అసలు ఆ వినియోగదారుకు ఆ ఉత్పత్తి లభిస్తుందా లేదా అనేది నిర్ణయించటానికి ఆల్గోరిథమే కీలకం.

బీమాను చూడండి: ఒకే రకమైన ఆస్తులు, ఒకే రకమైన భద్రతా వ్యవస్థలు ఉన్న ఇద్దరు వ్యక్తులు తమ ఇంటి బీమా కోసం వేర్వేరు మొత్తాలు చెల్లించటానికి కారణం దానిని ఒక ఆల్గోరిథమ్ నిర్ణయించటమే.

ఆల్గోరిథమ్ ఆయా ప్రాంతాల పోస్టల్ కోడ్‌ను ఉపయోగించుకుని ఆ ప్రాంతంలో నేరాల రేటును పరిశీలిస్తుంది. అలా సదరు ఆస్తిలో దొంగతనాలు జరగటానికి గల అవకాశాలను అంచనా వేస్తుంది. దాని ప్రకారం బీమాను నిర్ణయిస్తుంది.

అలాగే క్రెడిట్ స్కోర్ల విషయంలో కూడా అప్పును తిరిగి చెల్లించటంలో మీరు ఎంత విశ్వసనీయులు అనేదానిపై మెషీన్ నిర్ధారణను.. మీ మొబైల్ ఫోన్ కాంట్రాక్టు మొదలుకుని మీరు అద్దెకు ఉంటున్న ఇల్లు ఎక్కడ ఉందనేది కూడా ప్రభావితం చేస్తుంది.

ఆపిల్ కార్డ్ ఉదంతంలో, దాని ఆల్గోరిథమ్ ఎలా నిర్ణయాలకు వస్తుంది, ఏ డేటాను అది ఉపయోగిస్తుంది అనేది మనకు తెలియదు. అయితే, ఏ తరహా వారిని ఆర్థికంగా రిస్కుతో కూడుకున్న వ్యక్తులుగా పరిగణిస్తారు, లేదంటే అప్పు కోసం దరఖాస్తులు చేస్తున్న వారు ఎవరు అనే తరహా పాత సమాచారం ఇందులో ఉండొచ్చు.

మరిఈ ఆల్గోరిథమ్‌లు వివక్షాపూరితమైనవా?

దరఖాస్తుదారుల లింగం, జాతి, వయసు వంటి వివరాలను తాము అసలు అడగట్లేదని, అలా అడగటం చట్ట వ్యతిరేకమని ఆపిల్ కార్డును నిర్వహిస్తున్న గోల్డ్‌మాన్ సాక్స్ చెప్తోంది. కాబట్టి దరఖాస్తుదారులు పురుషులా, మహిళలా అనే దాని ఆధారంగా నిర్ణయాలు తీసుకోవటం జరగదని పేర్కొంది.

అయితే, ''ప్రచ్ఛన్న అంశాలు'' అనే విషయాన్ని ఈ వాదన విస్మరిస్తోందని శాన్ ఫ్రాన్సిస్కోలోని యూఎస్ఎఫ్ సెంటర్ ఫర్ అప్లయిడ్ డేటా ఎథిక్స్ డైరెక్టర్ రాచెల్ థామస్ ట్విటర్‌లో పేర్కొన్నారు.

ఉదాహరణకు, మీ లింగం ఏమిటనేది ఒక ఆల్గోరిథమ్‌కు తెలియకపోవచ్చు. కానీ, మీరు ఒక ప్రాథమిక పాఠశాల టీచర్ అనే విషయం దానికి తెలియవచ్చు. అంటే, అది మహిళలు అత్యధికంగా ఉండే రంగంగా దాన్ని గుర్తించగలదు.

ఇటువంటి పాత సమాచారం అంతా పోలీసులు, జడ్జిల వంటి మనుషులు తీసుకున్న నిర్ణయాలతో నిండివుండవచ్చు. ఆ నిర్ణయాలను ఒకరి జాతి ప్రభావితం చేసి ఉండవచ్చు.

అలాంటి వివక్షాపూరిత గత చరిత్ర నుంచి మెషీన్ నేర్చుకున్నట్లయితే.. అది దానినే పునరావృతం చేస్తుంటుంది.

అలాగే, ఇంతకుముందు చూడని సమాచారాన్ని ప్రాసెస్ చేయటం ఇంకా దారుణంగా కూడా ఉంటుంది.

ప్రాంతీయ యాసలు లేని శ్వేతజాతీయుల నుంచి తీసుకున్న డేటా ద్వారా అధికంగా 'శిక్షణ' పొందిన ఒక ఫేసియల్ రికగ్నిషన్, లేదా వాయిస్ రికగ్నిషన్ సాఫ్ట్‌వేర్.. ఎవరైనా ఒక వ్యక్తి శ్వేతజాతీయుడు కానట్లయితే, లేదంటే వారి ప్రాంతీయ యాస బలంగా ఉన్నట్లయితే వారిని సరిగా గుర్తించలేకపోవచ్చు. ఈ అంశం కాల్ సెంటర్‌కు ఫోన్ చేసే కొంతమందికి ఆగ్రహం తెప్పిస్తోంది.

ఈ సమస్య విషయంలో మనం ఏం చేయగలం?

ఆల్గోరిథమ్‌లలో నిష్పక్షపాత వ్యవస్థ మీద కొంత కాలంగా వాడి వేడి చర్చ జరుగుతోంది. ఆ చర్చలో ఏకాభిప్రాయం లేదు.

అయితే, వ్యాపార సంస్థలు ఈ ఆల్గోరిథమ్‌ను ఎలా నెలకొల్పామనే దాని గురించి పూర్తి వివరాలు వెల్లడించటం ఒక మార్గం. కానీ, ఈ ఉత్పత్తులు విలువైన వాణిజ్య ఆస్తులు. అత్యంత నైపుణ్యం గల వ్యక్తులతో అధిక వేతనాలు చెల్లించి వీటిని అభివృద్ధి చేశారు. కాబట్టి ఈ రహస్యాలను బయటపెట్టటానికి ఆయా సంస్థలు సిద్ధంగా ఉండవు.

అమెజాన్ సంస్థ ఆల్గోరిథమ్‌ తమకు ఉచితంగా లభిస్తే చాలా రిటైల్ సంస్థలు ఎంతో సంతోషిస్తాయి.

ఆల్గోరిథమ్ పారదర్శకంగా ఉండటం మరొక మార్గం. అంటే, ఒక వినియోగదారుకు సంబంధించి ఒక నిర్ణయం తీసుకున్నపుడు దానికి కారణాలు ఏమిటి, వారి సమాచారంలోని ఏ అంశాలకు అత్యధిక ప్రాధాన్యం ఉందనేది ఆ వినియోగదారుకు వెల్లడించడం. ఇటువంటి సమాచారాన్ని వెల్లడించడమెలా అనే దాని మీద కూడా ఏకాభిప్రాయం లేదు.

తక్కువ నిర్దిష్ట సమాచారం ప్రాతిపదికగా ఎక్కువ ఆల్గోరిథమ్‌లు పనిచేయటం మరొక మార్గం.

సమీకరించిన విధానాలను ఉపయోగించటం పెరుగుతోందని బీమా రంగానికి సాఫ్ట్‌వేర్‌ను అందించే చార్లెస్ టేలర్ ఇన్స్యూర్‌టెక్ సంస్థ చీఫ్ ఎగ్జిక్యూటివ్ జేసన్ సహోటా చెప్తున్నారు.

అంటే, ఒక బీమా సంస్థ ఒక నిర్దిష్ట కార్మికుల బృందానికి ఉమ్మడిగా ఆరోగ్య బీమా అందించవచ్చు. బీమా సంస్థ ఈ బృందం మొత్తానికి కలిపి రిస్క్‌ను అంచనా వేస్తుంది కాబట్టి.. అలా బీమా పొందినవారు వ్యక్తిగతంగా దరఖాస్తులు నింపాల్సిన అవసరం ఉండదు.

బీమా నిబంధనలను సరళీకరిస్తుండటంతో ప్రాసెస్‌ తక్కువగా ఉండాలని, వేగంగా చెల్లింపులు జరగాలని వినియోగదారుల డిమాండ్లు పెరుగుతున్నాయని ఆయన పేర్కొన్నారు.

ఎక్కువ మొత్తంలో సమాచారాన్ని ప్రాసెస్ చేయటం వల్ల విధానాలకు - దరఖాస్తుదారులకు మధ్య తేడాను గుర్తించటం కష్టమవుతుంది. దీనివల్ల ఒక్కో వ్యక్తికి నిర్దిష్టంగా ఉత్పత్తులను రూపొందించటంతో పాటు, అవి మరింత ఖరీదైనవిగా కూడా ఉంటాయి.

దానికి బదులుగా వారి సమాచారాన్ని ఎందుకు అడుగుతున్నామనేది, దానిని ఎలా ఉపయోగిస్తున్నామనేది ప్రజలకు చెప్పాలంటారు సహోటా.

ఒకవేళ ఏదైనా వివక్షాపూరితంగా కనిపించినట్లయితే.. కేవలం డేటాను తప్పుపట్టి సరిపుచ్చటంతో కాకుండా ఈ సమస్యను అధిగమించే మార్గాన్ని కనిపెట్టడానికి కృషి చేయటం ముఖ్యమని ఆయన అభిప్రాయపడ్డారు.

ఇవి కూడా చదవండి.

(బీబీసీ తెలుగును ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)