Mitandao ya kijamii inavyotumia data 'vibaya' kuonesha wavulana video za ngono

Ilikuwa 2022 na Cai, wakati huo 16, alikuwa akivinjari kwenye simu yake. Anasema moja ya video za kwanza alizoona kwenye mitandao ya kijamii ilikuwa ya mbwa mzuri, lakini mambo yalibadilika.

Anasema "bila kutarajia" alipendekezewa video za mtu akigongwa na gari, mwimbaji mmoja kutoka kwa mshawishi anayeshiriki maoni potovu, na klipu za mapigano makali. Alijikuta akijiuliza - kwanini mimi?

Andrew Kaung mkazi wa Dublin alikuwa akifanya kazi kama mchambuzi kuhusu usalama wa watumiaji katika TikTok, jukumu aliloshikilia kwa miezi 19 kuanzia Disemba 2020 hadi Juni 2022.

Anasema yeye na mwenzake waliamua kuchunguza ni watumiaji gani nchini Uingereza ambao walikuwa wakipendekezewa programu, ikiwa ni pamoja na baadhi ya watoto wa miaka 16.

Haukuwa umepita muda mrefu toka ahamie kwenye kampuni hiyo kutoka kampuni pinzani ya Meta, ambayo inamiliki Instagram - tovuti nyingine ambayo Cai hutumia.

Andrew alipotazama maudhui ya TikTok, alishtuka kupata jinsi baadhi ya wavulana walivyokuwa wakionyeshwa machapisho yanayoonyesha jeuri na ponografia, na kukuza maoni potovu kuhusu wanawake, alikiambia kipindi cha Panorama ya BBC. Anasema, kwa ujumla, wasichana walio katika umri wa kubalehe walipendekezwa maudhui tofauti sana kulingana na maslahi yao.

TikTok na kampuni nyingine za mitandao ya kijamii hutumia zana za Akilimnemba kuondoa idadi kubwa ya maudhui hatari na kuripoti maudhui mengine ili yakaguliwe na wasimamizi wa kibinadamu, bila kujali idadi ya maoni ambayo wamekuwa nayo. Lakini zana za Akilimnemba haziwezi kutambua kila kitu.

Andrew Kaung anasema kwamba wakati alipokuwa akifanya kazi katika TikTok, video zote ambazo hazikuondolewa au kuripotiwa kwa wasimamizi binadamu na Akili mnemba- au kuripotiwa na watumiaji wengine kwa wasimamizi - basi zingekaguliwa tena iwapo zilifikia kiwango fulani.

Anasema wakati mmoja video hizi zilipata maoni 10,000 au zaidi. Alihofia hii inamaanisha kuwa baadhi ya watumiaji wachanga walikuwa wakionyeshwa video hatari.

Kampuni nyingi kuu za mitandao ya kijamii huruhusu watu walio na umri wa miaka 13 au zaidi kujisajili.

TikTok inasema 99% ya maudhui inayoondoa kwa kukiuka sheria zake huondolewa na Akili mnemba au wasimamizi binadamu kabla ya kufikia maoni 10,000. Pia inasema kuwa inafanya uchunguzi wa kina wa video za aina hii zilizotazamwa na idadi ndogo ya watu.

Alipofanya kazi Meta kati ya mwaka 2019 na Disemba 2020, Andrew Kaung anasema kulikuwa na shida tofauti. Anasema kwamba, huku video nyingi ziliondolewa au kuripotiwa kwa wasimamizi na zana za Akili mnemba, tovuti ilitegemea watumiaji kuripoti video zingine mara tu wanapoziona.

Anasema aliibua hofu akiwa kwenye kampuni zote mbili, lakini hakuna hatua zilizochukuliwa kwasababu, anasema, ya hofu juu ya kiasi cha kazi iliyohusika au gharama ya kuchunguza maudhui.

Anasema baadaye maboresho kadhaa yalifanywa katika TikTok na Meta, lakini wakati huo huo anasema watumiaji wachanga, kama vile Cai, wameendelea kuwa hatarini.

Wafanyakazi kadhaa wa zamani kutoka kampuni za mitandao ya kijamii wameiambia BBC kwamba wasiwasi wa Andrew Kaung ni sawa na ujuzi na uzoefu wao.

Maagizo kutoka kwa kampuni zote kuu za mitandao ya kijamii yamekuwa yakipendekeza maudhui hatari kwa watoto, hata kama ni bila kukusudia, mdhibiti wa Uingereza Ofcom ameiambia BBC.

"Kampuni zimekuwa zikifumbia macho na zimekuwa zikiwatendea watoto jinsi zinavyowatendea watu wazima," anasema Almudena Lara, Mkurugenzi wa maendeleo ya sera za usalama mtandaoni wa Ofcom.

'Rafiki yangu alihitaji uchunguzi wa uhalisi wa maudhui'

TikTok iliiambia BBC kuwa ina mipangilio ya usalama "inayoongoza kwenye tasnia" kwa vijana na inaajiri zaidi ya watu 40,000 wanaofanya kazi kuhakikisha watumiaji wanakuwa salama. Ilisema mwaka huu pekee inatarajia kuwekeza "zaidi ya $2bn (£1.5bn) kwa ajili ya usalama", na 98% ya maudhui ambayo yanakuvunja sheria zake na kutazamwa zaidi.

Meta, ambayo inamiliki mitandao ya Instagram na Facebook, inasema ina zaidi ya raslimali 50 tofauti, nyenzo na vipengele vya kuwapa vijana "uzoefu chanya wa maudhui na unaolingana na umri" wao.

Cai aliiambia BBC kuwa alijaribu kutumia moja ya nyenzo za Instagram na nyingine kama hiyo kwenye TikTok na kusema kwamba hakupendezwa na maudhui ya vurugu au chuki dhidi ya wanawake - lakini anasema aliendelea kupendekezewa maudhui hayo kwa lazima.

Pia alijikuta akitazama video kutoka kwa washawishi wenye utata zilipotumwa kwake, lakini anasema hakutaka kupendekezewa maudhui haya yasiyomfaa.

“Unapata picha kichwani na huwezi kuitoa. Mitandao ya kijamii inatia doa ubongo wako. Na kwa hivyo unafikiria juu yake kwa siku nzima, "anasema.

Wasichana anaowafahamu walio na umri sawa wamependekezewa video kuhusu mada kama vile muziki na urembo badala ya vurugu, anasema.

Wakati huo huo Cai, ambaye kwa sasa ana umri wa miaka 18, anasema bado anasukumiwa maudhui ya vurugu na chuki dhidi ya wanawake kwenye Instagram na TikTok.

Tunapopitia Reels zake za Instagram, zinajumuisha picha inayoonyesha unyanyasaji wa nyumbani. Inaonyesha wahusika wawili kando, mmoja wao ana michubuko, na nukuu: "Lugha Yangu ya Upendo". Nyingine inaonyesha mtu anagongwa na lori.

Cai anasema amegundua kuwa video zilizo na mamilioni ya likes zinaweza kuwashawishi vijana wengine wa umri wake kuzitazama.

Kwa mfano, anasema mmoja wa marafiki zake alivutiwa na maudhui kutoka kwa mshawishi mwenye utata - na akaanza kuwa na maoni potovu.

Rafiki yake "alibadilika sana", Cai anasema. "Alianza kusema mambo kuhusu wanawake. Inakubidi uanze kumuelezea rafiki uhalisia wa mambo.”

Cai anasema ametoa maoni yake kuhusu machapisho kusema kwamba hapendi, na wakati amependa video kimakosa, amejaribu kutengua, akitumai itaweka upya programu za maudhui. Lakini anasema ameendelea kutumiwa video za aina hiyo zaidi.

Je data za TikTok zinafanyaje kazi?

Kulingana na Andrew Kaung, data huchochewa na uchangiaji wa mada, bila kujali kama uchagiaji ni chanya au hasi. Hiyo inaweza kuelezea kwa sehemu ni kwa nini juhudi za Cai za kudhibiti maudhui aliyoyapata hazikufua dafu.

Hatua ya kwanza kwa watumiaji ni kubainisha baadhi ya mambo wanayoyapenda na mambo yanayowavutia wanapojisajili.

Andrew anasema baadhi ya yaliyomo hapo awali yaliyotolewa na data kwa, tuseme, mtoto wa miaka 16, yanatokana na mapendeleo wanayotoa na matakwa ya watumiaji wengine wa umri sawa katika eneo sawa.

Kulingana na TikTok, data za mtumiaji hazijulikani na pia jinsia . Lakini Andrew anasema maslahi ambayo vijana hueleza wanapojiandikisha mara nyingi huwa na athari ya kuwagawanya kulingana na jinsia.

Mfanyakazi huyo wa zamani wa TikTok anasema baadhi ya wavulana wa umri wa miaka 16 wanaweza kuonyeshwa maudhui ya vurugu “mara moja”, kwa sababu watumiaji wengine wenye umri wa kubalehe walio na mapendeleo kama hayo wameonyesha kupendezwa na aina hii ya maudhui - hata kama hiyo inamaanisha kutumia muda zaidi kwenye video ambayo inavutia umakini wao kwa muda huo kidogo.

Masilahi yaliyoonyeshwa na wasichana wengi vijana katika wasifu aliochunguza yalikuwa ni kuhusu - "waimbaji wa pop, nyimbo, mapambo" - ilimaanisha kuwa hawakupendekezwa maudhui haya ya vurugu, anasema.

Anasema data hutumia "kujifunza kwa kuimarisha" - njia ambapo mifumo ya Akili mnemba hujifunza kwa majaribio na makosa - na kujizoeza kutambua tabia kwa video tofauti.

Andrew Kaung anasema zimeundwa ili kuongeza uchangiaji wa watazamaji zaidi kwa kukuonyesha video wanazotarajia utumie muda mrefu kuzitazama, kutoa maoni au kupenda - yote ili kukufanya uendelee kurudi zaidi na zaidi kwenye maudhui hayo.

Kanuni ya kupendekeza yaliyomo kwenye ukurasa wa TikTok wa “For You Page”, anasema, haitofautishi kila wakati kati ya maudhui hatari na yasiyo na madhara.

Kulingana na Andrew, moja ya shida alizogundua wakati alifanya kazi katika TikTok ni kwamba timu zinazohusika katika mafunzo na kuweka kanuni ya usimbaji hazikujua kila wakati asili halisi ya video ambazo ilikuwa inapendekeza.

"Wanaona idadi ya watazamaji, umri, mtindo, aina hiyo ya data dhahania. Hawaonyeshwi yaliyomo, "mchambuzi wa zamani wa TikTok anasema

Ndiyo maana, mnamo 2022, yeye na mfanyakazi mwenza waliamua kuangalia ni aina gani za video zilizokuwa zikipendekezwa kwa watumiaji mbalimbali, wakiwemo baadhi ya watoto wenye umri wa miaka 16.

Anasema walikuwa na wasiwasi kuhusu maudhui ya vurugu na madhara yanayotolewa kwa baadhi ya vijana, na alipendekeza kwa TikTok kwamba inapaswa kusasisha mfumo wake wa udhibiti.

Walitaka TikTok iweke video lebo waziwazi ili kila mtu anayefanya kazi hapo aone ni kwa nini zilikuwa hatari - vurugu iliyokithiri, unyanyasaji, ponografia na kadhalika - na kuajiri wasimamizi zaidi waliobobea katika maeneo haya tofauti. Andrew anasema mapendekezo yao yalikataliwa wakati huo.

TikTok inasema ilikuwa na wasimamizi maalumu wakati huo na, kadiri jukwaa linavyokua, limeendelea kuajiri zaidi. Pia ilisema ilitenga aina tofauti za maudhui hatari - katika kile inachoita foleni - kwa wasimamizi.

'Kumuomba simbamarara asikule'

Andrew Kaung anasema kuwa kutoka ndani ya TikTok na Meta ilionekana kuwa vigumu sana kufanya mabadiliko ambayo alidhani ni muhimu.

"Tuliomba kampuni ya kibinafsi ambayo nia yao ni kutangaza bidhaa zao ijidhibiti, jambo ambayo ni kama kumuomba simbamarara asikule," asema.

Pia anasema anadhani maisha ya watoto na vijana yangekuwa bora ikiwa wangeacha kutumia simu za kisasa.

Lakini kwa Cai, kupiga marufuku simu au mitandao ya kijamii kwa vijana sio suluhisho. Simu yake ni muhimu sana katika maisha yake - njia muhimu sana ya kuzungumza na marafiki, kusafiri akiwa nje na kulipia bidhaa.

Badala yake, anataka kampuni za mitandao ya kijamii kusikiliza zaidi kile ambacho vijana hawataki kuona. Anataka makampuni kufanya zana zinazoruhusu watumiaji kuonyesha mapendeleo yao kuwa na ufanisi zaidi.

"Ninahisi kama kampuni za mitandao ya kijamii haziheshimu maoni yako, mradi tu zinawaletea pesa," Cai ananiambia.

Nchini Uingereza, sheria mpya italazimisha makampuni ya mitandao ya kijamii kuthibitisha umri wa watoto na kukomesha tovuti zinazopendekeza ponografia au maudhui mengine hatari kwa vijana.

Taasisi ya udhibiti wa vyombo vya habari nchini Uingereza Ofcom ndio inayosimamia utekelezaji wake.

Mkurugenzi wa ukuzaji sera za usalama mtandaoni wa Ofcom, Almudena Lara, anasema kwamba ingawa maudhui hatari ambayo huathiri zaidi wanawake wachanga - kama vile video zinazokuza matatizo ya ulaji na kujidhuru - yamekuwa zikiangaziwa, njia za data zinazochochea chuki na vurugu kwa wavulana hasa wenye umri wa kubalehe hazijazungumziwa sana.

"Inaelekea kuwa ni wachache kati ya [watoto] wanaokabiliwa na maudhui hatari zaidi. Lakini tunajua, hata hivyo, kwamba mara tu unapofichuliwa na maudhui hayo hatari, inakuwa ni jambo lisiloweza kuepukika,” asema Bi Lara.

Ofcom inasema inaweza kutoza faini kampuni na inaweza kufungua mashtaka ya jinai ikiwa hazitafanya vya kutosha, lakini hatua hazitaanza kutumika hadi 2025.

TikTok inasema inatumia "teknolojia ya ubunifu" na hutoa mipangilio ya usalama na faragha "inayoongoza kwenye sekta" kwa vijana, ikiwa ni pamoja na mifumo ya kuzuia maudhui ambayo huenda yasifae, na kwamba hairuhusu vurugu kali au chuki mbaya.

Meta, ambayo inamiliki Instagram na Facebook, inasema ina zaidi ya " raslimali 50 tofauti, nyenzo na vipengele" ili kuwapa vijana "uzoefu chanya na unaolingana na umri". Kulingana na Meta, inatafuta maoni kutoka kwa timu zake na mabadiliko yanayowezekana ya sera hupitia mchakato thabiti.

Imetafsiriwa na Dinah Gahamanyi