కృత్రిమ మేథస్సు ప్రమాదవశాత్తూ మనల్నే అంతం చేసేస్తుందా, ఎలా?

"రోబోట్లు మన ఉనికికే ప్రమాదమైన తెలివితేటలను పెంచుకోవడం లేదు, కానీ, మనం ఆదేశించే పనులు చేయడంలో వాటి సామర్థ్యం మరీ ఎక్కువగా ఉంది" అని ఒక పరిశోధకుడు చెబుతున్నారు.

స్టీఫెన్ హాకింగ్ నుంచి ఎలాన్ మస్క్ వరకూ ప్రపంచ అగ్ర మేధావులు కొందరు ఆర్టిఫీషియల్ ఇంటెలిజెన్స్(కృత్రిమ మేథస్సు) గురించి ఆందోళన వ్యక్తం చేశారు. దానివల్ల మానవజాతి మనుగడకే ముప్పు రావచ్చన్నారు.

కానీ, 'హ్యూమన్ కంపాటబుల్: ఏఐ అండ్ ది ప్రాబ్లమ్ ఆఫ్ కంట్రోల్' అనే ఒక కొత్త పుస్తకంలో "మనం భయపడేలా మనుషులకు వ్యతిరేకంగా రోబోట్లు స్వీయ అవగాహనను పెంచుకోవడం లేదు. కానీ, యంత్రాలు మనం వాటికి ఇస్తున్న లక్ష్యాలను అందుకునేందుకు చాలా సమర్థంగా పనిచేస్తున్నాయి. అంటే, వాటికి తప్పుడు లక్ష్యాలు ఇస్తే, అనుకోకుండా మనమే తుడిచిపెట్టుకుపోయే ప్రమాదం ఉంది" అని రచయిత, బెర్కెలీలోని కాలిఫోర్నియా యూనివర్సిటీ ప్రొఫెసర్ స్టువర్ట్ రస్సెల్ చెప్పారు.

మెషిన్ల గురించి నేర్చుకోవడం ద్వారా మనం సాధించిన పురోగతిపై ఈయన అధ్యయనం చేశారు.

"హాలీవుడ్ సినిమాల్లో ఎక్కువగా యంత్రాలకు అనుకోకుండా తెలివితేటలు వచ్చేస్తాయి. తర్వాత మనుషులంటే అసహ్యం పెంచుకునే రోబోట్లు మనల్నే చంపాలనుకుంటాయి."

"కానీ రోబోట్లకు మనుషుల్లా భావోద్వేగాలు ఉండవు. దాని గురించి ఆందోళనపడడంలో అసలు అర్థమే లేదు. వాటికంత దారుణమైన తెలివితేటలు ఉండవు. దానికి ఉన్న మనల్ని కంగారు పెట్టే సామర్థ్యం ఒక్కటే. మనం తప్పుగా ఇచ్చిన లక్ష్యాన్ని అది చేయగలిగే సామర్థ్యం గురించే భయపడాలి" అని ఆయన బీబీసీతో అన్నారు.

అతి సామర్థ్యం

బీబీసీ టుడే కార్యక్రమం కోసం ఇంటర్వ్యూలో ఇచ్చిన రస్సెల్ "కృత్రిమ మేధస్సు వల్ల ఎదురయ్యే అసలైన ముప్పు ఎలా ఉంటుంది అనేదానికి ఒక ఊహాత్మక ఉదాహరణ కూడా ఇచ్చారు.

"మన దగ్గరున్న ఒక శక్తివంతమైన కృత్రిమ మేధస్సు ప్రపంచంలో వాతావరణాన్ని నియంత్రిస్తోందని అనుకుందాం. మనం దానిని కార్బన్ డయాక్సైడ్ స్థాయిని, పారిశ్రామిక రంగానికి ముందున్న స్థాయికి తీసుకురావడానికి ఉపయోగించాలని అనుకున్నాం. అప్పుడు ఆ వ్యవస్థ దానికి ఒకే ఒక సులభమైన దారిని గుర్తిస్తుంది. మొత్తం మనుషులనే తుడిచిపెట్టేయాలని అనుకుంటుంది. ఎందుకంటే, ఈ కార్బన్ డయాక్సైడ్ ఉత్పత్తికి మొదటి కారణం మనమే" అంటారు రస్సెల్.

"మీరు మేం ఏం కోరుకుంటే అది చేయచ్చు అని చెప్పవచ్చు. కానీ, మనం మనుషులను వదిలించుకోలేం. అలాంటప్పుడు ఈ సిస్టం ఏం చేస్తుంది. ప్రపంచంలో మనుషులే మిగలకుండా పోయేవరకూ తక్కువమంది పిల్లల్ని కనమని మనకే నచ్చజెపుతుంది".

మనుషులు ఏమాత్రం ఆలోచించకుండా ఇచ్చే ఆదేశాలతో పనిచేసే కృత్రిమ మేధస్సు వల్ల ఏర్పడే సమస్యలను ఈ ఉదాహరణ హైలైట్ చేస్తుంది.

సూపర్ ఇంటెలిజెన్స్

"ప్రస్తుతం ఉన్న ఎక్కువ కృత్రిమ మేధస్సు వ్యవస్థల్లో 'నారో అప్లికేషన్స్' ఉన్నాయి. ఒక డొమైన్‌లో ఒక నిర్దిష్టమైన సమస్యను పరిష్కరించేలా వాటిని ప్రత్యేకంగా రూపొందించారు" అని కేంబ్రిడ్జ్ యూనివర్సిటీలోని సెంటర్ ఫర్ స్టడీ ఆఫ్ ఎక్స్‌టర్నల్ రిస్క్ చెప్పింది.

1997లో 'డీప్ బ్లూ' అనే కంప్యూటర్ అప్పటి ప్రపంచ చెస్ చాంపియన్ గారీ కాస్పరోవ్‌ను ఆరు గేముల మ్యాచ్‌లో ఓడించినపుడు అది కృత్రిమ మేధస్సు రంగంలోనే మైలురాయిగా నిలిచింది.

కానీ అలా ఆడిన డీప్ బ్లూ కంప్యూటర్‌ను చెస్ ఆడే వారు ప్రత్యేకంగా తయారు చేశారు. కానీ, అది చెక్కర్స్ ఆటలో చెత్తగా ఓడిపోవచ్చు.

కృత్రిమ మేధస్సులో తర్వాత వచ్చిన పురోగతి విషయంలో అలా జరగలేదు.

ఉదాహరణకు అల్ఫాగో జీరో అనే సాఫ్ట్‌వేర్. తనతో తానే 'గో' అనే గేమ్ ఆడి, కేవలం మూడు రోజుల్లో సూపర్ హ్యూమన్ లెవల్ ప్రదర్శనను అందుకుంది.

ఒక యంత్రం 'డీప్ లెర్నింగ్' ద్వారా నేర్చుకున్న పద్ధతిని ఆర్టిఫీషియల్ న్యూరల్ నెట్‌వర్క్స్‌లో ఉపయోగిస్తుంది. ఆల్ఫాగో జీరోకు చాలా తక్కువ హ్యూమన్ ప్రోగ్రామింగ్ అవసరమైంది. అది ఒక అద్భుతమైన గో, చెస్, షోగీ ప్లేయర్‌గా మారిపోయింది.

ఇక్కడ ఆందోళన కలిగించే అంశం ఏంటంటే, అది బహుశా దాన్నంతా పూర్తిగా సొంతంగా నేర్చుకుంది.

"ఒక ఏఐ సిస్టమ్(ఆర్టిఫీషియల్ వ్యవస్థ) మరింత శక్తివంతంగా, జనరల్‌గా ఉన్నప్పుడు, అది దాదాపు అన్ని డొమైన్లలో మనుషుల ప్రదర్శనను మించి మహా తెలివితేటలు చూపించవచ్చు" అని ఎగ్జిస్టెన్షియల్ రిస్క్ సెంటర్ చెప్పింది.

అందుకే, మనుషులు వాటిని తిరిగి నియంత్రణలోకి తీసుకోవాలని ప్రొఫెసర్ రస్సెల్ భావిస్తున్నారు.

మనకేం కావాలో, మనకే తెలీదు

"కృత్రిమ మేధస్సుకు మరింత వివరంగా లక్ష్యాలను ఇవ్వడం అనేది ఈ డైలమాకు పరిష్కారం కాదు. ఎందుకంటే ఆ లక్ష్యాలు ఏంటనేది స్వయంగా మనుషులకే సరిగా తెలీదు. ఏదైనా జరిగేవరకూ అవి మనకు నచ్చవనే విషయం మనుషులకు తెలీదు" అని ఆయన చెప్పారు.

"ఏఐ వ్యవస్థలను నిర్మించే మొత్తం ఆధారాలను మార్చాలి, రోబోట్లకు ఒక స్థిరమైన లక్ష్యాలు ఇవ్వడం అనే భావనకు దూరం కావాలి. దానికి బదులు లక్ష్యం ఏంటో తనకు తెలీదని ఆ కృత్రిమ మేధస్సు వ్యవస్థ తెలుసుకోవాలి. అలా పనిచేసే సిస్టం మన దగ్గర ఉన్నప్పుడు, అవి నిజానికి మనుషుల దగ్గర వినయంగా పనిచేస్తాయి. ఏవైనా పనులు చేసేముందు మన అనుమతి అడుగుతాయి. ఎందుకంటే మనం ఏం కోరుకుంటున్నామో వాటికి సరిగా తెలీదు" అంటారు రస్సెల్.

అన్నిటికంటే ముఖ్యంగా, అవి తమను ఆఫ్ చేసేయడమే మంచిదని ఆనందిస్తాయి. ఎందుకంటే, మీకు ఇష్టం లేని పనులను అవి చేయకూడదని అనుకుంటాయి."

అద్భుతదీపంలో జినీ భూతం

"మనం నిర్మించే కృత్రిమ మేధస్సు ఒక విధంగా అల్లావుద్దీన్ అద్భుత దీపంలో జినీలా ఉండాలి. మనం దీపాన్ని రుద్దినపుడు, జినీ బయటకు వస్తాడు. అప్పుడు మీరు 'నాకు ఇలా జరగాలి' అంటారు".

ఏఐ వ్యవస్థకు తగిన శక్తి ఉంటే, అది మీరు సరిగ్గా ఏది అడుగుతారో అది చేస్తుంది. మీరు కూడా దానిని ఏది కోరారో, కచ్చితంగా అదే పొందుతారు.

ఇప్పుడు ఈ దీపాల్లోని జినీతో సమస్య వస్తే, మూడో కోరిక ఎప్పుడూ ఉంటుంది. "దయచేసి నా మొదటి రెండు కోరికలనూ రద్దు చేయండి. ఎందుకంటే మా లక్ష్యాలను మేం సరిగా చెప్పలేకపోయాం".

"అంటే ఒక రోబోట్ చేయాలనుకుంటున్న లక్ష్యం సరైనది కాకపోయినప్పుడు, అది నిజానికి మానవజాతికి శత్రువు అవుతుంది. ఆ శత్రువు మనకంటే శక్తివంతమైనదనే విషయం మర్చిపోకూడదు" అని రస్సెల్ చెబుతున్నారు.

ఇవి కూడా చదవండి:

(బీబీసీ తెలుగును ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)