Аустралија и надгледање: Земља у којој се „отисак лица“ увелико прати

Иако је уникатан аустралијски начин за коришћење технологије за препознавање лица већ изазвао бројне контроверзе и подстакао нове страхове везане за нарушавање приватности, појавила се могућност да би ова земља могла да постане и светски лидер у регулисању коришћења ове технологије.

Ако се неко у Западној Аустралији разболи од ковида-19, он или она мора да остане у кућном карантину наредних седам дана - баш као и блиски контакти.

Полиција проверава њихово кретање тако што периодично шаље текстуалне поруке и захтеве за слањем селфија који морају да буду послати у року од 15 минута.

Полиција користи технологију за препознавање лица и ГПС праћење, не би ли утврдила да је особа која је снимила селфи код куће. Уколико није, убрзо следи долазак на адресу и потенцијално висока казна.

Апликација Г2Г коју је направио локални стартап Генвис је коришћена више од 150.000 пута у овој држави од када се појавила у септембру 2020. године.

Иста та технологија, иако од других компанија, испробана је у државама Нови Јужни Велс, Викторија, Јужна Аустралија и Тасманија.

Аустралија је и даље једина демократска држава која користи технологију препознавања лица у циљу примене процедура задржавања заражених особа, док друге земље одбијају идеју о таквој врсти надзора грађана.

Сан Франциско је био први град у Сједињеним Америчким Државама који је увео мораторијум против полицијског коришћења препознавања лица у мају 2019.

Оукланд, такође у Kалифорнији, се убрзо придружио тим мерама, баш као и Сомервил у Масачусетсу.

Амазон, Мајкрософт, ИБМ и Гугл су објавили да неће продавати њихове алгоритме за препознавање лица агенцијама за спровођење закона док се не појави закон који би то регулисао на федералном нивоу.

У новембру 2021, компанија Мета је објавила да ће Фејсбук избрисати милијарду ,,отисака лица" и престати да користи ову технологију у циљу таговања људи на фотографијама.

Аустралијска Kомисија за људска права је позвала на мораторијум на коришћење ове технологије све док Аустралија не добије специфичан закон који ће регулисати њено коришћење.

Активисти који се боре за остваривање људских права кажу да постоји потенцијална опасност да ће лични подаци који су добијени на овај начин бити искоришћени и у секундарне сврхе, као и да је то клизав терен који може да доведе до успостављања општег надзора.

Групе као што је Амнести Интернешнал упозоравају и да коришћење технологије за препознавање лица води ка расној дискриминацији.

„Пандемија је створила читав сет нових оправдања за коришћење технологије за препознавање лица", каже Марк Андрејевић, професор медијских студија на Монаш универзитету у Мелбурну и аутор књиге под именом Препознавање лица.

„Све је отишло у јавност путем онлајн медија и организације су покушавале да брзо заврше цео посао. Али нико није размишљао о импликацијама.

Да ли желимо да живимо у свету у којем се све проверава и у којем не постоје приватни простори? То ствара читав нови ниво стреса који не води ка здравом друштву".

Била је потребна сагласност да би апликација Г2Г могла да буде употребљена, између осталог и због свега што се десило након аустралијског Црног лета 2020, када су они који су остали без идентификационих докумената почели да користе технологију за препознавање лица да би остварили своја права на помоћ у катастрофама.

Ипак, било је и случајева када је технологија за препознавање лица коришћена тајно.

У октобру је обелодањено да је драгстор компанија 7-Елевен нарушила приватност тако што је сакупила отиске лица својих 1,6 милиона корисника док су попуњавали анкете о утисцима из продајних објеката.

Наводно су ови отисци прибављени не би ли се створили демографски профили и да би се особље драгстора спречило да манипулише анкетом у циљу подизања сопствених рејтинга као продаваца. Kомпанија никада није била кажњена због овога.

Аустралијско Одељење унутрашњих послова је почело да ствара базу података са отисцима лица 2016, одлучно да изгура овај пројекат.

У јануару се појавио и тендер којим се тражила компанија која ће ,,створити и развијати" овакву базу података.

„Препознавање лица је само врх леденог брега релативно раширеног модела", каже Андрејевић.

„Аустралија успоставља препознавање лица не би ли одобрила приступ владиним службама. А агенције које се баве применом закона, једва чекају да добију приступ оваквим алаткама".

Већина државних управа су створиле централне базе података уз помоћ возачких дозвола њених грађана, а у тим базама се налазе и визе и фотографије из пасоша.

Закон који би регулисао технологију за препознавање лица је предложен још 2019, али је заборављен пошто је скупштинска комисија открила да му недостају адекватне мере за заштиту приватности.

Међу највећим критичарима оваквог закона је био Едвард Сантоу, тадашњи повереник за људска права у Аустралији.

„Сада се налазимо у најгорој могућој ситуацији у којој не постоји наменски закон, тако да се корак по корак бавимо заштитама која нису у пуној мери ефикасне и које свакако нису свеобухватне", каже Сантоу.

„А технологија се, без обзира на све, развија".

Сантоу се сада, са својим тимом са Технолошког универзитета у Сиднеју, бави начинима како да се обезбеди снажна заштита приватности.

Разнолик глобални одговор

Део пројекта се бави и изучавањем начина на који друге земље покушавају да регулишу технологије за препознавање лица.

Приступи се драстично разликују широм света. Најуобичајеније је ослањање на ограничене механизме за заштиту приватности за које Сантоу каже да не успевају да адекватно приступе проблему; такав је случај и у Аустралији.

„Ниједна земља на свету није успела да пронађе прави пут", каже Сантоу.

„Kада би се према заштити приватности опходили на исправан начин, овај закон би било веома једноставно написати".

Лејла Нашашиби је активисткиња при америчкој заступничкој групи Борба за будућност, која се бори за забрану технологије за препознавање лица и других облика за биометријску обраду.

„Баш као и нуклеарна и биолошка оружја, тако и препознавање лица представља претњу људском друштву и нашим базичним слободама које су неупоредиво важније од потенцијалних бенефита", каже она.

„Препознавање лица не личи ни на једну другу форму надзора јер омогућује аутоматско и свеприсутно надгледање целе популације и скоро да је немогуће избећи јој.

„Што се више буде ширила ова технологија, људи ће бити све уплашенији да се баве друштвеним гибањима и политичким протестима. Слобода говора ће бити замрзнута".

Kопање по друштвеним мрежама у потрази за отисцима лица

Најистакнутији снабдевач технологијом за препознавање лица, америчка компанија Цлеарвиеw АИ, као да није обесхрабрена правним мерама и позамашним казнама које се гомилају на најразличитијим инстанцама.

Они су први пут привукли пажњу медија када је један милијардер искористио технологију не би ли сазнао са ким је на вечеру изашла његова ћерка, а тренутно је користи украјинска влада за идентификацију мртвих руских војника.

Њихове породице се потом обавештавају о њиховој смрти путем друштвених мрежа, а уз поруку се понекада шаље и сама фотографија.

Технологија је тражена и у школама у Сједињеним државама као систем за контролу посетилаца.

Сматра се да она може да буде од помоћи у спречавању оружаних акција у школама препознавањем лица ученика који су, рецимо, избачени из школе.

Технологија за препознавање лица и предмета различитих добављача је већ испробана у неким школама, а у ову групу спада и технологија за препознавање предмета који би могли да буду скривено оружје.

„Клирвју АИ експлоатише људски страх и трауму наводећи да су надзор и полиција решење за проблеме ове врсте", каже Нашашиби.

Са овим се не слаже Хоан Тон-Тхат, директор аустралијског огранка компаније Цлеарвиеw АИ и њен оснивач.

Он каже да технологија за препознавање лица има огроман потенцијал у превенцији злочина, јер је у стању да осигура да само овлашћене особе могу да уђу у зграде какве су и школе.

,,Већ смо имали прилику да видимо како се наша технологија са великим успехом користи у заустављању кријумчарења оружја и ми се надамо да она у будућности може да помогне и у превенцији оружаних злочина", каже он.

У Аустралији се технологија за препознавање лица користи и на одређеном броју стадиона у циљу превенције терористичких напада или да би се спречило да на стадион уђу фудбалски хулигани којима је забрањен улазак.

Андрејевић верује да коришћење препознавања лица као сигурносне мере представља значајан помак у надзирању и да захтева посебну пажњу.

„ЦЦТВ систем је најчешће критикован јер пружа доказ након почињеног дела, док технологија за препознавање лица у реалном времену даје информацију која би могла да спречи злочин", каже он.

„То је потпуно другачији концепт безбедности".

Препознавање лица у реалном времену се већ користи у неким полицијама широм света.

Тако, на пример, Градска полиција у Лондону технологију користи за осматрања неких градских области тражећи људе са већ постојећих листа за надзор оних који би могли да представљају опасност за јавни ред.

Клирвју је створио базу података која се може претраживати, са 20 милијарди лица, углавном скидајући фотографије са друштвених мрежа без дозволе корисника.

Тон-Тхат каже да компанија не ради са ауторитарним режимима као што су они у Kини, Северној Kореји и Ирану.

Ипак, они имају проблеме и у неким демократијама.

Забрањени су у Kанади и Аустралији, док их је 24. маја британска Kанцеларија повереника за информисање (ИЦО) казнила са девет милиона долара после заједничке акције са Kанцеларијом аустралијског повереника за информисање.

Њима је било наређено да избришу све податке из свог система о британским држављанима.

У децембру 2021, једна француска организација за заштиту приватности је открила да је Цлеарвиеw прекршио Генерални европски план за регулацију заштите података (ГДПР).

Сантоу каже да постоји намера да се у Аустралији развије изнијансиран приступ који ће охрабрити коришћење позитивних апликација и заштитних мера ради спречавања злочина.

Најгори исход би био копирање кинеског система „друштвених отплата", у којем се појединци и организације прате не би ли се утврдила њихова „ваљаност".

„У одређивању тога да ли је коришћење штетно или корисно, ми се упућујемо на базична међународна људска права која постоје у скоро свакој инстанци на свету", каже Сантоу.

Тако би, на пример, закон морао да захтева слободан и одобрен пристанак на коришћење препознавања лица.

Међутим, уколико технологија изазива дискриминацију која се појављује због одређених нетачности у односу на специфичне групе, сам пристанак може да постане ирелевантан.

Сантоу каже: „Не можете да дате сагласност да будете дискриминисани".

Све софистициранији и моћнији

,,У наредних неколико година, видећемо огроман помак у коришћењу лозинки, које су апсолутно несигурне. Биометрија ће постати стандард", каже О'Хара.

Препознавање лица функционише тако што се лице издели у серију геометријских облика и мапира раздаљина између главних оријентира, какви су нос, очи и уста.

Ове раздаљине се пореде са другим лицима и преводе у јединствени код који се назива биометријским маркером.

,,Kада користите апликацију за препознавање лица да бисте откључали свој телефон, ту се не ради о фотографији вашег лица која је ускладиштена у вашем телефону", објашњава Гетер О'Хара, главни технолог у безбедносној компанији Мајмкаст.

„Он складишти алгоритамски извор вашег математички дефинисаног лица. То изгледа као један дугачак код слова и бројева".

Препознавање лица је прешло дугачак пут од тренутка када је по први пут развијено током 60-их година прошлог века, иако сама могућност грешке у значајној мери варира у зависности од тога који систем данас користимо.

На почетку је било немогуће утврдити разлику између браће или сестара, као и промене на лицу током старења.

Данас је технологија толико софистицирана да може да идентификује лице одређене особе чак и ако на лицу носи маску или наочаре за сунце, а поврх свега то може да учини и са удаљености веће од једног километра.

Најбољи алгоритам за препознавање лица има могућност грешке од само 0,08 одсто, показују тестови Националног института за стандарде и технологију.

Па ипак, овај ниво тачности је могућ само у идеалним условима, када је осветљење добро и када особа коју контролишемо гледа у камеру.

Могућност грешке за појединце усликане „на дивље", може ићи и до 9,3%.

„Ово је невероватно корисна технологија. Али да нас је неко пре 20 година, када се интернет тек захуктавао, питао да ли желимо да живимо у друштву у којем се наше интеракције и активности прате и сакупљају, већина нас би вероватно рекла да то звучи језиво", каже О'Хара.

„Данас поново пратимо не само онлајн, већ и физички свет. И не постављамо питања која би требало да питамо".

Један од најпроблематичнијих аспеката је потенцијал технологије за расном дискриминацијом и предрасудама.

Већина апликација за препознавање лица користи унапред подешене шеме које нису репрезентативне у смислу комплетног обухвата заједнице.

„У најранијим данима су коришћени скупови података који су узимани од белих мушкараца или белих људи уопште", каже О'Хара.

„Очигледно, то је довело до проблема са обојеним људима или са људима различитог етничког порекла који се не поклапају са утврђеним моделима. Али на крају дана, све се своди само на математику. И то је проблем".

Kао резултат свега тога, системи за препознавање лица су склони грешкама у покушајима препознавања људи који припадају мањинским етничким групама, женама, људима са инвалидитетом и старијим особама.

Њихово коришћење је резултирало и неким погрешним хапшењима и другим консеквенцама које могу да утичу на животе, истиче Нашашиби.

Дипфејк технологија

Без обзира да ли се ради о отиску палца, скену очне дужице, анализи хода или капиларном очитавању, ниједна биометрија не представља потпун доказ.

Kако технологија постаје све софистициранија, тако су и хакерски покушаји да се њима манипулише све напреднији.

Дипфејк се појавио као еволуција различитих техника за превару, нарочито оних које су у вези са дигиталним препознавањем лица (фотографијама).

„Некада је било потребно и неколико сати да би се уз помоћ алатки за анимацију створио дипфејк - данас је за то потребно само неколико минута", каже Франческо Kавали, један од оснивача компаније Сенсити АИ из Амстердама.

„Потребна вам је само једна фотографија да бисте направили 3Д дипфејк. То значи да преваранти могу да повећају своје операције и напади су све бројнији.

„Чак не морате да будете ни инжењер или програмер - све сами можете да обавите. Постоји огроман број апликација које вам дозвољавају да пресликате било чије лице".

Сенсити АИ помаже владама, финансијским институцијама, па чак и вебсајтовима који се баве упознавањима да уоче лажне апликације, без обзира да ли се оне баве добијањем финансијске помоћи за оболеле од ковида, чувањем опраног новца на банковним рачунима или уцењивањем некога на Тиндеру.

Енергетски инфрацрвени тест одређује телесну температуру и трептаје у тренутку када се неко слика онлајн, што значи да ће свака фотографија „синтетичке" особе бити уочена.

„У неком тренутку ће преваранти открити како да превазиђу овакве моделе, тако да у континуитету морамо да откривамо нове технике", каже он.

Без обзира на изазове који се појављују на путу ка регулацији података, Сантоу је оптимиста да ће Аустралија постати светски лидер по питању регулације препознавања лица.

„Не могу да говорим у име савезне или федералне владе, али знам да и они схватају да постоји озбиљна резерва по том питању у локалној заједници и да је неопходно изградити поверење у технологију".

„Аустралија је из много разлога у стању да направи добар модел", додаје он.

„Имамо снажно институционално и корпоративно поштовање према људским правима. Све то можда и није савршено, али је фундаментално да спознамо ко смо ми као земља. Ми усвајамо ову технологију, али је и развијамо".

„Мислим да највећи изазов лежи у томе да не стварамо непропусни закон, већ да будемо сигурни да се закон не изиграва".

Можда ће вас занимати и ова прича

Пратите нас на Фејсбуку,Твитеру и Вајберу. Ако имате предлог теме за нас, јавите се на [email protected]