డీప్ ఫేక్ ఎంత ప్రమాదకరంగా మారే అవకాశం ఉందంటే...

డీప్ ఫేక్ టెక్నాలజీ దుర్వినియోగానికి సంబంధించిన ఉదంతాలు గత కొన్ని రోజులుగా వార్తల్లో నిలుస్తున్నాయి.

ఈ టెక్నాలజీ దుర్వినియోగం వల్ల సామాన్యులు ఇబ్బంది పడుతుండగా, సెలెబ్రిటీల డీప్‌ఫేక్ వీడియోలు ఇటీవల వైరల్‌గా మారాయి.

ఈ ఎపిసోడ్‌లో హీరోయిన్లు రష్మికా మందన్నా, కాజోల్, కత్రినా కైఫ్ పేర్లు తెరపైకి వచ్చాయి. భారత ప్రధానమంత్రి నరేంద్ర మోదీ గర్బా నృత్యం చేస్తున్నట్లుగా వైరల్ అయిన వీడియోతో అందరూ షాక్ అయ్యారు. అది నిజమా? కాదా? అనే సందిగ్ధంలో ఉన్నారు.

డీప్ ఫేక్ కేసులు కేవలం భారత్‌కే పరిమితం కాదు.

అమెరికా మాజీ అధ్యక్షుడు బరాక్ ఒబామా నుంచి ఫేస్‌బుక్ హెడ్ మార్క్ జుకర్‌బర్గ్ వరకు దీని బారిన పడినవారే.

మీరు చూసిన ఈ వీడియోలన్నీ డీప్‌ఫేక్‌లే.

డీప్‌ఫేక్ అంటే ఏంటి?

డీప్‌ఫేక్ టెక్నాలజీ, కృత్రిమ మేధ (ఏఐ)ని ఉపయోగించి ఎవరిదైనా ఒక నకిలీ ఫొటోను తయారు చేస్తుంది.

ఇందులో ఏదైనా ఫొటో, ఆడియో, లేదా వీడియోను నకిలీగా చూపించడానికి డీప్ లెర్నింగ్ అనే ఏఐని వాడతారు. దీన్నే డీప్ ఫేక్ అని పిలుస్తారు.

వీటిలో చాలావరకు పోర్న్ లేదా అశ్లీలమైనవి ఉంటాయి.

2017లో ప్రవేశపెట్టినప్పటి నుంచి డీప్‌ఫేక్ సాంకేతిక స్థాయి, సామాజిక ప్రభావం చాలా వేగంగా అభివృద్ధి చెందిందని ఆమ్‌స్టర్‌డ్యామ్‌కు చెందిన సైబర్ సెక్యూరిటీ కంపెనీ డీప్‌ట్రేస్ చెప్పింది.

2019లో డీప్‌ట్రేస్ కంపెనీ ప్రచురించిన నివేదిక ప్రకారం, మొత్తం 14,678 డీప్‌ఫేక్ వీడియోలు ఆన్‌లైన్‌లో ఉన్నాయి. వీటిలో 96 శాతం వీడియోల్లో అశ్లీల అంశాలు ఉన్నాయి.

మహిళలకు హాని కలిగించేందుకు డీప్‌ఫేక్ పోర్నోగ్రఫీని ఉపయోగిస్తున్నారని డీప్‌ట్రేస్ అంచనా వేసింది.

అదే సమయంలో ప్రపంచవ్యాప్తంగా డీప్‌ఫేక్ పోర్నోగ్రఫీ పెరుగుతోంది. వినోద రంగంలోని మహిళలు, మ్యూజీషియన్స్‌ను ఈ పోర్నోగ్రఫీ వీడియోల్లో బాధితులుగా మారతారని చెప్పింది.

కొన్నేళ్ల క్రితం మహిళలే లక్ష్యంగా సులీ, బుల్లీ బాయి ఉదంతాలు వెలుగులోకి వచ్చాయని న్యాయవాది పునీత్ భసీన్ చెప్పారు.

కానీ, డీప్‌ఫేక్‌లలో మహిళలతో పాటు పురుషులను కూడా లక్ష్యంగా చేసుకుంటున్నారు. చాలా సందర్భాల్లో ఇలాంటి ఫేక్ మెటీరియల్‌ను పురుషులు పట్టించుకోరు. అది వేరే విషయం.

డీప్‌ఫేక్‌లు సమాజంలో చెదపురుగుల్లా వ్యాపిస్తున్నాయని ముంబయికి చెందిన సైబర్ లా అండ్ డేటా ప్రొటెక్షన్ ప్రైవసీ నిపుణురాలు పునీత్ భసీన్ అభిప్రాయపడ్డారు.

‘‘గతంలో కూడా ఫొటోలను మార్ఫింగ్ చేసేవారు. కానీ, అవి గుర్తుపట్టేలా ఉండేవి. కానీ, ఏఐని ఉపయోగించే చేసే డీప్‌పేక్‌లను గుర్తించడం చాలా కష్టం. ఎందుకంటే ఇవి చాలా కచ్చితత్వంతో ఉంటాయి. ఏది నిజమైనది? ఏది నకిలీది అనే విషయం గుర్తించడం చాలా కష్టం’’ అని ఆమె అన్నారు.

డీప్‌ఫేక్ టెక్నాలజీ వీడియోలకే పరిమితమా?

వీడియోలకే కాకుండా, ఫొటోలకు కూడా ఈ టెక్నాలజీని వాడుతున్నారు. అందుకే అవి నకిలీ ఫొటోలు అని గుర్తించడం చాలా కష్టంగా మారుతుంది.

ఈ టెక్నాలజీ ద్వారా నకిలీ ఆడియోలను కూడా తయారు చేస్తున్నారు. సెలెబ్రిటీల గొంతులను అనుకరించడానికి ‘వాయిస్ స్కిన్’ లేదా ‘వాయిస్ క్లోన్’‌లను వాడుతున్నారు.

డీప్‌ఫేక్ అనేది కంప్యూటర్లు, ఎలక్ట్రానిక్ ఫార్మాట్లు, ఏఐల కలయిక అని సైబర్ సెక్యూరిటీ-ఏఐ నిపుణులు పవన్ దుగ్గల్ చెప్పారు.

డీప్‌ఫేక్‌లను ఎవరు ఉపయోగిస్తున్నారు?

ఒక సాధారణ కంప్యూటర్‌లో మంచి డీప్‌ఫేక్‌ను తయారు చేయడం చాలా కష్టం.

హై ఎండ్ డెస్క్‌టాప్ మీద హై ఎండ్ ఫొటోలు, గ్రాఫిక్ కార్డ్‌లను ఉపయోగించి డీప్‌ఫేక్‌లను సృష్టిస్తారు.

సైబర్ నేరస్థులు ఈ టెక్నాలజీని ఎక్కువగా వాడుతున్నారని పవన్ దుగ్గల్ చెప్పారు.

‘‘అసభ్యకర వీడియోలను తయారుచేసి, వాటిని ఉపయోగించి వ్యక్తుల్ని బ్లాక్‌మెయిల్ చేస్తుంటారు. వారి పరువుకు నష్టం కలిగించేలా సోషల్ మీడియాలో ఫొటోలను ఉంచుతారు. ముఖ్యంగా సెలెబ్రిటీలు, రాజకీయ నాయకుల ప్రతిష్టకు భంగం కలిగించే ఉద్దేశంతో వీటిని తయారు చేస్తారు’’ అని ఆయన చెప్పారు.

ఇలాంటి వీడియోలను ఎక్కువ మంది చూస్తారని, ఎక్కువ వీక్షణల కోసం కూడా ఇలాంటి వీడియోలు తయారు చేస్తుంటారని పునీత్ భసీన్ తెలిపారు.

డీప్‌ఫేక్ వాడకం ఎన్నికలను కూడా ప్రభావితం చేస్తుందని పవన్ దుగ్గల్ ఆందోళన వ్యక్తం చేశారు.

డీప్‌ఫేక్ వీడియోలు రాజకీయ నాయకుల ప్రతిష్టతో పాటు వారి పార్టీకి విజయావకాశాలను ప్రభావితం చేస్తుందని ఆయన వివరించారు.

చట్టంలోని నిబంధనలు ఏమిటి?

భారతీయ జనతా పార్టీ దీపావళి కార్యక్రమంలో ప్రధాని నరేంద్ర మోదీ, ఏఐని ఉపయోగించి డీప్‌ఫేక్‌లను సృష్టించడంపై ఆందోళన వ్యక్తం చేశారు.

‘‘దేశం ఎదుర్కొంటున్న అతిపెద్ద ముప్పులలో డీప్‌ఫేక్ ఒకటి. ఇది అరాచకానికి దారితీయవచ్చు’’ అని అన్నారు.

ప్రభుత్వం త్వరలో డీప్‌ఫేక్ గురించి సోషల్ మీడియాతో చర్చిస్తుందని కేంద్ర మంత్రి అశ్వినీ వైష్ణవ్ అన్నారు. డీప్‌ఫేక్‌లపై సోషల్ మీడియా మాధ్యమాలు తగిన చర్యలు తీసుకోకపోతే, ఐటీ చట్టంలోని సేఫ్ హార్బర్ కింద వారికి రక్షణ (ఇమ్యూనిటీ) లభించదని చెప్పారు.

డీప్‌ఫేక్‌ల అంశంపై కంపెనీలకు నోటీసులు జారీ చేశామని, వారి నుంచి సమాధానాలు కూడా వచ్చాయని చెప్పారు.

డీప్‌ఫేక్‌ కేసులు వెలుగులోకి వచ్చిన తర్వాత వీటిపై కఠిన చట్టాలు చేయాల్సిన అవసరం ఉందా అనే చర్చ మొదలైంది.

భారత్‌లో ఐటీ చట్టం కింద శిక్ష విధించే అవకాశం ఉందని లాయర్ పునీత్ భసీన్ చెప్పారు.

నిరుడు ఈ విషయంలోనే కొన్ని మార్గదర్శకాలు జారీ అయ్యాయి. నగ్నత్వం, అశ్లీల అంశాలు, ఒకరి గౌరవానికి, ప్రతిష్టకు హాని కలిగించే కంటెంట్‌పై ఏదైనా ప్లాట్‌ఫారమ్‌కు ఫిర్యాదు అందితే, వెంటనే ఆ కంటెంట్‌ను తీసివేయాలంటూ ఆ మార్గదర్శకాల్లో పేర్కొన్నారు.

“ అమెరికా లేదా ఇతర దేశాల వేదికగా కార్యకలాపాలు నడిపే ఈ సోషల్ మీడియా కంపెనీలు, స్థానిక చట్టాల ప్రకారం నడుచుకుంటున్నామని గతంలో చెప్పేవి. కానీ, ఇప్పుడు ఎఫ్‌ఐఆర్ నమోదు చేయమని కోరుతున్నాయి. ప్లాట్‌ఫారమ్ నుంచి కంటెంట్‌ను తీసివేయడానికి కోర్టు ఆదేశాలను అడుగుతున్నాయి’’ అని పునీత్ చెప్పారు.

సోషల్ మీడియా కంపెనీలకు ఇమ్యూనిటీ ఇవ్వడంపై కేంద్ర మంత్రి వైష్ణవ్ చేసిన వ్యాఖ్యల గురించి ఆమె మాట్లాడుతూ, ‘‘ఐటీ చట్టంలోని సెక్షన్ 79 కింద కంపెనీలు ఈ రక్షణ పొందేవి. ఒకవేళ ఏదైనా ఒక ప్లాట్‌ఫారమ్‌లో థర్డ్ పార్టీ ద్వారా కంటెంట్ అప్‌లోడ్ అయితే, ఆ కంటెంట్‌ను ప్లాట్‌ఫారమ్ ప్రసారం చేయకపోతే, అటువంటి పరిస్థితిలోనూ ప్లాట్‌ఫారమ్‌కు ఇమ్యూనిటీ లభిస్తుంది. అలాంటి పక్షంలో ఆ కంటెంట్‌కు ప్లాట్‌ఫారమ్‌కు ఎలాంటి బాధ్యత లేదని నమ్ముతారు’’ అని చెప్పారు.

ప్లాట్‌ఫారమ్‌లోని గ్రీవెన్స్ ఆఫీసర్‌కు ఫిర్యాదు అందినా, ఎలాంటి చర్యలు తీసుకోకపోతే, సెక్షన్ 79లోని ఒక మినహాయింపు కింద ఇమ్యూనిటీ లభించదు. పైగా ఆ ప్లాట్‌ఫారమ్‌కు వ్యతిరేకంగా చర్య తీసుకుంటామని మార్గదర్శకాల్లో స్పష్టం చేశారు.

అలాంటి పరిస్థితుల్లో ప్లాట్‌ఫారమ్‌లో కంటెంట్‌ను అప్‌లోడ్ చేసిన వ్యక్తిపై కేసు నమోదు చేయడమే కాకుండా, ప్లాట్‌ఫారమ్‌కు కూడా శిక్ష విధిస్తారు.

భారత ఐటీ చట్టం-2000లోని సెక్షన్ 66ఈ ప్రకారం, డీప్‌ఫేక్‌లకు సంబంధించిన క్రిమినల్ కేసుల్లో శిక్షను విధిస్తారు.

ఒక వ్యక్తి ఫోటోను ప్రచురించడం, వ్యాప్తి చేయడం అనేవి వ్యక్తిగత గోప్యతను ఉల్లంఘించడం కిందకు వస్తాయి. అలా చేస్తే, భారత ఐటీ చట్టం ప్రకారం మూడేళ్ల వరకు జైలు శిక్ష లేదా రెండు లక్షల వరకు జరిమానా విధించే నిబంధన ఉంది.

ఎవరికైనా హాని కలిగించాలనే దురుద్దేశంతో కంప్యూటర్‌ లేదా ఇతర కమ్యూనికేషన్ పరికరాలను ఉపయోగిస్తే ఐటీ చట్టంలోని సెక్షన్ 66డీ కింద మూడేళ్ల వరకు శిక్ష లేదా ఒక లక్ష రూపాయల జరిమానా పడుతుంది.

డీప్‌ఫేక్‌లను ఎలా గుర్తించాలి?

డీప్‌ఫేక్ కంటెంట్‌ని గుర్తించడానికి కొన్నిఅంశాలను చూద్దాం.

కళ్లను చూసి గుర్తించవచ్చు: ఒకవేళ డీప్‌ఫేక్ వీడియో అయితే అందులో ఉన్నవారు కనురెప్పలు ఆర్పలేరు.

పెదవులను జాగ్రత్తగా చూడటం ద్వారా, డీప్‌ఫేక్ వీడియోలో పెదవుల కదలికలకు, మాటలకు మధ్య సమన్వయం ఉండదు.

జుట్టు, పళ్లను గమనించడం డీప్‌ఫేక్‌లో హెయిర్ స్టైల్‌ను మార్చడం చాలా కష్టం. దంతాలను చూడటం ద్వారా కూడా వీడియో డీప్‌ఫేక్ అని గుర్తించవచ్చు.

‘‘డీప్‌ఫేక్ చాలా పెద్ద సమస్య. నియంత్రణకు కఠిన చట్టాలు అవసరం. లేకుంటే భవిష్యత్తులో తీవ్ర పరిణామాలు ఎదుర్కోవాల్సి ఉంటుంది’’ అని నిపుణులు భావిస్తున్నారు.

ఇవి కూడా చదవండి:

(బీబీసీ తెలుగును ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)