Video za TikTok za watoto waliouawa zilivyozitisha familia zao

Wazazi waliofiwa na watoto wao wameonyeshwa kuchukizwa na kuenea kwa video za kutatanisha kwenye jukwaa la TikTok zinazotolewa kwa kutumia teknolojia ya Akili Bandia kuonyesha watoto halisi ambao walikuwa waathiriwa wa mauaji.

Video hizo, zilizofanywa bila idhini ya jamaa za watoto hao, zinaonyesha matoleo ya akili ya bandia ya watoto, baadhi yao watoto wachanga, wakizungumzia jinsi walivyouawa.

Tangu Aprili mwaka jana, video nyingi zinazozalishwa kwa kutumia kompyuta zimewekwa kwenye jukwa la TikTok, ingawa kampuni hiyo ilikuwa imetangaza mwezi Machi kuwa imepiga marufuku kutangazwa kwa matoleo ya akili bandia ya watoto halisi.

Lakini, uchunguzi wa BBC ulipata ushahidi unaoonyesha kuwa kunaweza kuwa na uhasama kati ya wafanyakazi wa TikTok kuhusu sera ya jukwaa.

Msimamizi wa maudhui wa TikTok aliambia BBC kwamba ingawa miezi minne ilikuwa imepita tangu marufuku hiyo kutolewa, kampuni hiyo ilikuwa bado haijamfahamisha kuhusu mabadiliko hayo ya sheria.

Video zinazoonyesha waathiriwa wakitumia akili bandia zilisalia kwenye jukwaa kwa miezi kadhaa, huku baadhi zikipata maoni ya mamilioni.

Jamaa waliofiwa katika nchi kadhaa wamelaani nakala zinazozalishwa na AI za wapendwa wao waliouawa ambazo zimeonekana kwenye mtandao.

Baroness Beban Kidron, mjumbe huru katika Bunge la Uingereza, anasema kwamba video hizi zinaweza kusababisha huzuni na huzuni kwa familia zilizofiwa haswa kwa sababu zina nakala za kidijitali za jamaa zao walioaga ambao wanaonekana kusimulia hadithi zao.

Anaongeza kuwa: "Ikiwa una uhusiano na mtoto huyo, hasa ikiwa wewe ni mmoja wa wazazi wake au mmoja wa wanafamilia yake, basi hiyo ni sawa ‘’shambulio la kihisia."

"Mbaya kuliko ngumi mbaya zaidi’’.

Haukupita muda mrefu baada ya video hizi kutazamwa na kwamba jamaa za baadhi yao ambao walianza kueleza hisia zao. Miongoni mwa wa kwanza kuzungumza alikuwa mwanamke wa Canada anayeitwa Amelie Lemieux.

Mnamo Julai 2020, binti zake wawili - Romi mwenye umri wa miaka sita na Noura Balaa mwenye umri wa miaka 11 - waliuawa na mume wake waliyetengana, ambaye alijiua baada ya kuwaua binti zake wawili.

Mnamo Aprili mwaka huu, Lemieux alishtuka alipotumiwa video iliyokuwa na toleo la AI la Nora ikizungumzia mauaji ya yake na dada yake.

"Ilikuwa mbaya zaidi kuliko kupigwa na ngumi mbaya zaidi unayoweza kuifikiria," Lemieux anasema.

"Nisingeweza kuitazama hadi mwisho, na kaka yangu pia hakuweza kuitazama. Alikuwa akipiga mayowe ili kuizuia.".

Lemieux alikuwa na wasiwasi hasa kwamba wapwa zake wangeona kwa bahati mbaya video ya binamu yao aliyekufa wakati wa kurambaza katika jukwaa la TikTok.

Ingawa watu wengi waliripoti video hiyo, iliendelea kubakia kwenye TikTok.

Hatimaye, baada ya mfululizo wa mahojiano ya vyombo vya habari yaliyofanywa na Lemieux kueleza kusikitishwa kwake, akaunti isiyojulikana iliyokuwa ikitangaza video hiyo kwenye jukwaa ilisitishwa.

Lemieux hajaweza kujua ni nani aliyetengeneza video hiyo, lakini amechukizwa na matendo yake.

Anasema: “Ni jambo la kustaajabisha sana, kwa mtu kutumia jambo fulani lenye kusikitisha sana, jambo ambalo litatuacha na hisia ya kifo maisha yetu yote.”

Wanachotaka ni kutazamwa, kupenda, kushirikiwa, na watu kuacha maoni chini ya video. Binafsi, siwezi kuwasamehe kwa tabia hii."

Teknolojia mpya

Video hizi ziliweza kutengenezwa kutokana na programu ya akili bandia, AI, Iinazidi kupatikana kwenye Mtandao.

Sasa inawezekana kubuni taswira iliyohuishwa ya mwanadamu na kuipa maandishi ili isomwe kwa sauti inayotokana na kompyuta.

Baadhi ya nyuso katika video za waathiriwa hazifanani na mtu halisi, lakini nyingine zilitengenezwa kutokana na picha zao halisi.

Watu wanaotengeneza klipu hizi kwa kawaida huwa hawatambuliki. Lakini BBC imemtambua mmoja wa waundaji wa maudhui hayo, mwanafunzi kutoka London aitwaye Ritul.

Kwenye chaneli yake ya YouTube, Ritul ananadi kile anachokiita video za "hadithi" kama njia ya kuvutia wafuasi zaidi kwenye TikTok kwa muda mfupi.

Anasema katika mojawapo ya video zake: “Nilipata maelfu na maelfu ya wafuasi kupitia klipu zinazosimulia hadithi kwa kutumia akili ya bandia tu...nilipata wafuasi elfu 47 kwa chini ya wiki tatu tu.”

Tulimwomba Ritul atoe maoni yake lakini alikataa na akaunti yake ya TikTok lakini haikukubalika’’

Video za TikTok zinahitaji kuvutia umakini wa watumiaji ndani ya sekunde chache, vinginevyo wataanza kuvinjari jukwaa kutafuta video nyingine. Kwa hivyo, waundaji wa maudhui kama vile Retool hulenga kutengeneza video zinazoshughulikia masuala maarufu au yenye utata.

Tik Tok alijibu

Tukio la TikTok liligonga vichwa vya habari nchini Uingereza Julai mwaka jana, wakati Denise Fergus, mamake James Plugger, alipofanya mahojiano na gazeti ambapo alisema kuwa video zinazoonyesha mwanaye "zilikuwa za kuchukiza."

Mfumo wa TikTok umekuwa ukizuia idadi kubwa ya video, na ukatoa taarifa ikisema: "Hakuna mahali kwenye jukwaa letu kwa ajili ya maudhui ya kutatiza ya aina hii.

Tutaendelea kuondoa aina hii ya maudhui wakati wowote tutakapoyapata."

Video za Gems zimezuiwa, zikiwemo klipu mbili za lugha ya Kivietinamu ambazo zimetazamwa jumla ya milioni nne.

BBC ilizungumza na msimamizi wa maudhui wa TikTok nchini Vietnam, ambaye alikubali kuhojiwa kwa sharti la kutotajwa jina. Anasema kuwa wiki mbili baada ya video hizo kuondolewa, kampuni hiyo ilikuwa bado haijatangaza rasmi kuwa aina hii ya maudhui yamepigwa marufuku.

Anaongeza kuwa anaamini kuwa video hizi ziliruhusiwa kutangazwa chini ya sheria za TikTok, ambazo zinawaruhusu walionusurika katika unyonyaji na unyanyasaji kushiriki hadithi zao.

Kwa hivyo kuna kutoelewana kati ya wafanyakazi wa TikTok kuhusu sera ya kampuni? Jukwaa halikujibu hoja hii maalum tulipoiuliza ili kutoa maoni.

Lakini jukwaa lilieleza kuwa kidhibiti maudhui kilifanya makosa alipodokeza kwamba video zilizotajwa hapo juu zinaweza kuruhusiwa kuzungumzia matukio ya waathiriwa

walionusurika - kwa sababu ni picha zinazozalishwa na kompyuta za watoto walioaga dunia na si uzoefu halisi wa walionusurika.

Na bado ni rahisi kupata aina hizo za video kwenye TikTok. Lakini jukwaa linasema kuwa halifichi ukweli kwamba halitaweza kupata video zote.