ટિકટૉક પર હત્યા કરાયેલાં બાળકોના AI વીડિયોથી માતાપિતા ભયભીત કેમ?
ઇમેજ સ્રોત, TikTok
- લેેખક, એડ મેઇન
- પદ, બીબીસી ટ્રેન્ડિંગ
શોકગ્રસ્ત માતા-પિતાએ એક ભયાનક ટિકટૉક ટ્રૅન્ડ પ્રત્યે અણગમો વ્યક્ત કર્યો છે, જેમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (એઆઈ)નો ઉપયોગ કરીને વીડિયો બનાવવામાં આવે છે અને વાસ્તવિક જીવનમાં હત્યાનો ભોગ બનેલાં બાળકોને દર્શાવવામાં આવે છે.
આ વીડિયો સંબંધીઓની સંમતિ વિના બનાવવામાં આવે છે અને તેમાં બાળકોને ભયંકર રીતે દર્શાવવામાં આવે છે અને એ પૈકીનાં કેટલાંક બાળકો કેવી રીતે માર્યાં ગયાં હતાં તેની વાત કરવામાં આવે છે.
વાસ્તવિક યુવાઓના એઆઈ સંસ્કરણ પર પ્રતિબંધની જાહેરાત ટિકટૉકે માર્ચમાં કરી હોવા છતાં એપ્રિલથી ટિકટૉક પર સંખ્યાબંધ કમ્પ્યુટર જનરેટેડ વીડિયો પોસ્ટ કરાઈ રહ્યા છે.
અલબત્ત, બીબીસીની તપાસમાં મળેલા પુરાવા સૂચવે છે કે ટિકટૉકના કર્મચારીઓમાં કંપનીની નીતિ બાબતે કેટલીક મૂંઝવણ પ્રવર્તતી હોવાની શક્યતા છે.
એક ટિકટૉક કૉન્ટેન્ટ મૉડરેટરે બીબીસીને જણાવ્યું હતું કે પ્રતિબંધ લાદવામાં આવ્યાના ચાર મહિના પછી પણ કંપનીએ તેમને નિયમોમાં ફેરફાર બાબતે જાણ કરી નથી.
કેટલાક એઆઈ વીડિયો પ્લૅટફૉર્મ પર ઘણા મહિના સુધી રહ્યા હતા, જ્યારે આવા અન્ય વીડિયોને લાખો વ્યૂઝ મળ્યા છે.
ઘણા દેશોમાં શોકગ્રસ્ત સંબંધીઓએ તેમના મૃત પ્રિયજનોના, ઑનલાઇન જોવા મળેલા એઆઈ સંસ્કરણો વિશે વાત કરી છે.
બ્રિટિશ સંસદના હાઉસ ઑફ લૉર્ડ્ઝના સ્વતંત્ર સભ્ય બેરોનેસ બીબન કિડ્રો જણાવે છે કે આવા વીડિયો શોકગ્રસ્ત પરિવારોને વિચલિત કરી શકે છે, કારણ કે તેમાં તેમના મૃત સ્વજનોનું સિમ્યુલેશન, જાણે કોઈ વાર્તા કહેવામાં આવતી હોય તે રીતે રજૂ કરવામાં આવે છે.
End of સૌથી વધારે વંચાયેલા સમાચાર
બેરોનેસ બીબન કિડ્રો કહે છે, “તમે એવા કોઈ બાળક સાથે જોડાયેલા હો, ખાસ કરીને તેના માતા-પિતા કે પરિવારજન હો તો આવા વીડિયો તમારા પરનો હુમલો, ભાવનાત્મક હુમલો છે.”
‘સૌથી ખરાબ અપરકટ કરતાં પણ વધારે ખરાબ’
ઇમેજ સ્રોત, UK Parliament
તમારા કામની સ્ટોરીઓ અને મહત્ત્વના સમાચારો હવે સીધા જ તમારા મોબાઇલમાં વૉટ્સઍપમાંથી વાંચો
વૉટ્સઍપ ચેનલ સાથે જોડાવ
Whatsapp કન્ટેન્ટ પૂર્ણ
આ વીડિયો દેખાવાનું શરૂ થયું તેના થોડા સમયમાં જ કેટલાક મૃતકોના પરિવારજનો તેનો વિરોધ કરવા લાગ્યા હતા. કૅનેડાનાં એમેલી લેમિએક્સ એવા લોકો પૈકીનાં એક હતાં.
એમિલીની બે પુત્રી છ વર્ષની રોમી અને 11 વર્ષની નોરાહની એમિલીથી અલગ થયેલા તેમના પતિએ જુલાઈ, 2020માં હત્યા કરી હતી. બાદમાં તેમણે પોતે પણ આત્મહત્યા કરી હતી.
એમિલીને આ વર્ષના એપ્રિલમાં એક ટિકટૉક વીડિયો મોકલવામાં આવ્યો હતો. તેને નિહાળીને તેઓ ભયભીત થઈ ગયાં હતાં. તેમાં નોરાહને હત્યા બાબતે વાત કરતી દર્શાવવામાં આવી હતી.
એમિલીએ કહ્યું હતું, “આ તો અકલ્પ્ય રીતે ખરાબ અપરકટ કરતાં પણ વધારે ખરાબ છે. હું તેને અંત સુધી જોઈ શકી ન હતી અને મારો ભાઈ પણ જોઈ શક્યો ન હતો. એ તેને રોકવા બૂમો પાડતો હતો.”
એમિલીને એ વાતની ચિંતા હતી કે તેમની યુવાન ભત્રીજીઓ અને ભત્રીજાઓ ટિકટૉક સ્ક્રોલ કરતા હશે ત્યારે તેમની મૃત પિતરાઈ બહેનનો વીડિયો સામે આવશે તો શું થશે.
અનેક લોકોએ આ વીડિયો ટિકટૉકને રિપોર્ટ કર્યો હોવા છતાં તે ઑનલાઇન ઉપલબ્ધ રહ્યો હતો. આખરે તે વીડિયોની ભયાનકતા બાબતે એમિલીએ મીડિયા પર શ્રેણીબદ્ધ રજૂઆત કરી પછી જે અનામી એકાઉન્ટે આ વીડિયો પોસ્ટ કર્યો હતો તેને ડિલીટ કર્યો હતો.
આ વીડિયો કોણે બનાવ્યો હતો એ એમિલી શોધી શક્યાં નથી, પરંતુ તેના કૃત્યથી ગભરાઈ ગયાં છે.
તેમણે કહ્યું હતું, “તે અવિશ્વસનીય રીતે આઘાતજનક છે. કોઈ આવી ઘટનાનો ઉપયોગ કરે તે ખેદજનક છે. તેનો અજંપો અમારા બાકીના દિવસો માટે કાયમ રહેશે. તેમને ફક્ત વ્યૂઝ, લાઈક્સ અને શેર્સ જોઈએ છે. લોકો કૉમેન્ટ કરે તેવું તેઓ ઇચ્છે છે. અંગત રીતે હું તેને માફ કરી શકું નહીં.”
નવી ટેક્નૉલૉજી
એઆઈ સૉફ્ટવૅરની ઑનલાઇન વધતી જતી સુલભતાને કારણે આવા વીડિયો બનાવવાનું શક્ય બન્યું છે.
હવે મૂળભૂત માનવ આકૃતિ બનાવવાનું અને તેને કમ્પ્યુટર જનરેટેડ અવાજમાં કહેવા માટે સ્ક્રિપ્ટ આપવાનું શક્ય છે.
વાસ્તવિક જીવનના પીડિતોના કેટલાક વીડિયોમાંના ચહેરા મૂળ વ્યક્તિને ચહેરા સાથે મેળ ખાતા નથી, જ્યારે અન્ય વાસ્તવિક ફોટોગ્રાફ્સ પર આધારિત છે.
આવા વીડિયો બનાવતા લોકો અનામ રહેવાના પ્રયાસ કરે છે, પરંતુ એ પૈકીના એક લંડનમાં રહેતા રિતુલ નામના વિદ્યાર્થી હોવાનું બીબીસીને જાણવા મળ્યું છે.
રિતુલની પોતાની યૂટ્યૂબ ચેનલ છે અને તેઓ જેને ‘સ્ટોરી ટેલિંગ’ વીડિયો કહે છે તેવા વીડિયોને તેમણે ટિકટૉક પર વધુ ફોલૉઅર્સ મેળવવા પ્રમોટ કર્યા હતા.
તેમણે એક વીડિયોમાં કહ્યું હતું, “માત્ર એઆઈનો ઉપયોગ કરીને બનાવેલા સ્ટોરી ટેલિંગ વીડિયો પોસ્ટ કરીને મેં હજારો ફોલૉઅર્સ મેળવ્યા છે. મેં 47,000 ફોલૉઅર્સ માત્ર ત્રણ સપ્તાહથી ઓછા સમયમાં મેળવ્યા છે.”
રિતુલે ટિપ્પણી માટેની બીબીસીની વિનંતીને નકારી કાઢી હતી અને ટિકટૉક પરનું તેમનું એકાઉન્ટ હવે ડિલીટ કરી નાખવામાં આવ્યું છે.
ઇમેજ સ્રોત, PA Media
ગણતરીની સેકન્ડોમાં જ યૂઝરનું ધ્યાન આકર્ષિત કરી શકે તેવા વીડિયો જ ટિકટૉક પર ચાલે છે. નહીં તો યૂઝર સ્ક્રોલ કરીને આગળ વધી જાય છે. તેથી રિતુલ જેવા વીડિયો સર્જકો અત્યંત આત્યંતિક અથવા હાઈ પ્રોફાઈલ કેસ વિશે વીડિયો બનાવવા પર ધ્યાન કેન્દ્રિત કરે છે.
કેટલાંક બાળકોની કથાઓ પોર્ટુગીઝ, સ્પેનિશ, ફ્રેન્ચ, જર્મન, ઇટાલિયન અને પૉલિશ સહિતની ઘણી ભાષાઓમાં બહુવિધ વીડિયોનો વિષય બની છે.
જેમ્સ બલ્ગર નામના બે વર્ષના બ્રિટિશ છોકરાની મોટી વયના બે છોકરાઓએ બ્રિટનના મર્સીસાઇડમાં 1993માં હત્યા કરી હતી. તે ઘટનાના એઆઈ સંસ્કરણના 170 અલગ-અલગ વીડિયો બીબીસીએ બે મહિનાના સમયગાળામાં શોધી કાઢ્યા હતા.
જેમ્સનાં માતા ડેનિસ ફર્ગ્યુસને જુલાઈમાં એક અખબારને જણાવ્યું હતું કે તેમના પુત્રની હત્યા પર આધારિત વીડિયો અત્યંત ક્રૂર છે. ડેનિસના આ નિવેદન પછી બ્રિટનમાં ટિકટૉક ચર્ચાનું કેન્દ્ર બન્યું હતું.
ટિકટૉકનો પ્રતિભાવ
ઇમેજ સ્રોત, Reuters
ટિકટૉકે આવા વીડિયોને સામૂહિક રીતે દૂર કરવાની કામગીરી હાથ ધરી હતી અને એક નિવેદનમાં જણાવ્યું હતું, “આ પ્રકારના પીડાદાયક કૉન્ટેન્ટને અમારા પ્લૅટફૉર્મ પર કોઈ સ્થાન નથી. અમે આ પ્રકારના કૉન્ટેન્ટને હટાવવાનું સતત ચાલુ રાખીશું.”
જેમ્સના જે વીડિયો હટાવવામાં આવ્યા હતા તેમાં વિયેતનામના બે વીડિયોનો સમાવેશ થાય છે. એ બન્નેને કુલ 40 લાખ વ્યૂઝ મળ્યા હતા.
બીબીસીએ ટિકટૉકના વિયેતનામ ખાતેના કૉન્ટેન્ટ મૉડરેટર સાથે વાત કરી હતી. તેઓ ઓળખ ગુપ્ત રાખવાની શરતે વાત કરવા સહમત થયા હતા.
તેમણે જણાવ્યું હતું કે વીડિયો દૂર કરવામાં આવ્યાના બે સપ્તાહ પછી પણ કંપનીએ તેમને સત્તાવાર રીતે જણાવ્યું નથી કે આ પ્રકારની સામગ્રી પર પ્રતિબંધ છે.
તેમણે બીબીસીને એમ પણ જણાવ્યું હતું કે શોષણ અને સતામણીમાંથી બચી ગયેલા લોકોને તેમની કથા શેર કરવાની છૂટ આપતા ટિકટૉકના નિયમ હેઠળ તે વીડિયોને મંજૂરી આપવામાં આવી હતી.
આ સંદર્ભે સવાલ થાય કે કંપનીની નીતિ ખરેખર શું છે તેનાથી ટિકટૉકના કર્મચારીઓ અજાણ છે? અમે ટિપ્પણી મેળવવા સંપર્ક કર્યો ત્યારે ટિકટૉકે આ બાબતે સ્પષ્ટ જવાબ આપ્યો ન હતો.
જોકે, ટિકટૉકે સ્પષ્ટતા કરી હતી કે શોષણ અને સતામણીમાંથી બચી ગયેલા લોકોના વીડિયોને પ્લૅટફૉર્મ પર રજૂ કરવાની છૂટ છે એવું કૉન્ટેન્ટ મૉડરેટરે કહ્યું તે ખોટું છે, કારણ કે તે વાસ્તવમાં બચી ગયેલા લોકોના અનુભવના વીડિયોને બદલે મૃત બાળકોની કમ્પ્યુટર જનરેટેડ ઇમેજીસ છે.
ટિકટૉક પર આ પ્રકારના વીડિયો શોધવાનું આજે પણ સરળ છે, પરંતુ ટિકટૉક કહે છે કે આવા તમામ વીડિયોને પ્લૅટફૉર્મ પરથી દૂર કરવાનું શક્ય નથી એ બાબતે અમે સ્પષ્ટ છીએ.
(પૂરક માહિતીઃ થુઓંગ લે, બીબીસી વિયેતનામીઝ)
