Историја и диктатори: Шта би се десило да Хитлер није поражен
Аутор фотографије, Getty Images
Шта би било потребно да светска тоталитарна влада преузме неограничену власт? Овај сценарио ноћне море можда је ближи него што се чини.
Како би изгледале тоталитарне владе из прошлости да никада нису поражене?
Нацисти су пословали технологијом 20. века и још је био потребан светски рат да их заустави.
Колико су моћнији - и трајнији - могли бити нацисти да су потукли САД атомском бомбом?
Контрола најнапредније технологије тог доба могла је учврстити нацистичку моћ и променити ток историје.
Кад размишљамо о егзистенцијалним ризицима, често нам падну на памет догађаји попут нуклеарног рата или удара астероида.
Ипак, постоји једна будућа претња која је мање позната - и иако не укључује изумирање наше врсте, могла би бити једнако лоша.
Зове се сценарио „света у ланцима", где, као и претходни мисаони експеримент, глобална тоталитарна влада користи нову технологију да закључа већину света у трајну патњу.
Ако звучи мрачно, били бисте у праву. Али да ли је вероватно?
Истраживачи и филозофи почињу да размишљају о томе како би могло то тога доћи - и, што је још важније, шта можемо учинити да то избегнемо.
Егзистенцијални ризици (x-ризици) су погубни јер затварају човечанство у једну судбину, попут трајног колапса цивилизације или изумирања наше врсте.
Tе катастрофе могу имати природне узроке, попут удара астероида или супервулкана, или их може створити човек из извора попут нуклеарног рата или климатских промена.
Допуштање да се то догоди био би „бедан крај људске приче" и изневерило би стотине генерација које су дошле пре нас, каже Хејдн Белфилд, руководилац академског пројекта у Центру за проучавање егзистенцијалног ризика на Универзитету у Кембриџу.
Аутор фотографије, Getty Images
Тоби Орд, виши научни истраживач на Институту за будућност човечанства (ФХИ) на Универзитету Оксфорд, верује да су шансе за егзистенцијалну катастрофу која се овог века догодила из природних разлога мање од један према две хиљаде, јер су људи преживели две хиљаде векова без иједне такве.
Међутим, када дода вероватноћу катастрофа које изазива човек, Орд верује да се шансе повећавају на запањујућих један према шест.
Овај век назива „провалијом", јер ризик од губитка будућности никада није био тако висок.
Истраживачи из Центра за дугорочни ризик, непрофитног истраживачког института у Лондону, проширили су x-ризике са још хладнијом могућношћу претрпљења ризика.
Ови „с-ризици" су дефинисани као „патња у астрономским размерама, која знатно премашује све патње које су до сада постојале на Земљи".
У тим сценаријима живот се наставља за милијарде људи, али квалитет је тако низак, а изгледи тако мрачни да би одумирање било пожељније.
Укратко: будућност са негативном вредношћу је гора од оне која уопште нема вредност.
Ту долази до сценарија „света у ланцима".
Ако би злонамерна група или влада изненада стекла моћ којом доминира светом технолошким путем и није било ничега што би јој стало на пут, то би могло довести до продуженог периода страдања и потчињавања.
Извештај из 2017. о егзистенцијалним ризицима из Пројекта глобалних приоритета, заједно са ФХИи Министарством спољних послова Финске, упозорава да би „дуга будућност у посебно бруталној светској тоталитарној држави могла бити гора од потпуног изумирања".
Хипотеза синглтона
Иако је светски тоталитаризам још увек ниша тема проучавања, истраживачи на пољу егзистенцијалног ризика све више усмеравају пажњу на његов највероватнији узрок: вештачку интелигенцију.
У „синглтон хипотези" Ник Бостром, директор Оксфордовог ФХИ-ја, објаснио је како би се светска влада могла формирати помоћу вештачке интелигенције или других моћних технологија - и зашто би то могло бити немогуће срушити.
Пише да би се могао догодити свет са „јединственом агенцијом за доношење одлука на највишем нивоу", ако та агенција „одлучно доведе до технолошког пробоја у вештачкој интелигенцији или молекуларној нанотехнологији".
Једном кад је надлежна, контролисаће напредак технологије која спречава унутрашње изазове, попут надзора или аутономног оружја, и, уз овај монопол, остаје трајно стабилна.
Аутор фотографије, Getty Images
Ако је синглтон тоталитарни, живот би био мрачан. Чак и у земљама са најстрожим режимима, вести „процуре" и уђу из других земаља и људи могу побећи.
Светска тоталитарна владавина уклонила би чак и ово мало семе наде.
Да буде горе од изумирања, „то би значило да не осећамо апсолутно никакву слободу, приватност, наду у бекство, никакву агенцију која би уопште контролисала наше животе", каже Такер Дејви, писац са Института за будућност живота у Масачусетсу, који се фокусира на истраживање егзистенцијалног ризика.
„У тоталитарним режимима у прошлости, било је толико параноје и психолошке патње, јер једноставно немате појма хоћете ли бити убијени због погрешне речи", наставља он.
„А сада замислите да чак уопште нема питања, свака ствар коју кажете пријављује се и анализира."
„Можда још увек немамо технологије за то", рекао је Орд у недавном интервјуу, „али изгледа да врсте технологија које развијамо то чине лакшим и лакшим. Чини се вероватним да би то могло постати могуће током следећих сто година."
Вештачка интелигенција и ауторитарност
Иако је живот под светском тоталитарном владом још мало вероватан и сценарио је за далеку будућност, вештачка интелигенција већ омогућава ауторитарност у неким земљама и јача инфраструктуру коју би опортунистички деспот могао прибавити код других.
„Видели смо неку врсту обрачуна са преласком са врло утопијских визија онога што би технологија могла довести до много отрежњујуће стварности која је, у неким погледима, већ прилично дистопична", каже Елса Каниа, виша сарадница у Центру за нову америчку сигурност.
Аутор фотографије, Getty Images
У прошлости је за надзор било потребно стотине хиљада људи - један на сваких сто грађана Источне Немачке био је доушник - али сада то може да уради технологија.
У Сједињеним Државама, Агенција за националну безбедност (НСА) прикупила је стотине милиона америчких записа о позивима и порукама пре него што су зауставили домаћи надзор 2019, а процењује се да постоји четири до шест милиона ЦЦТВ сигурносних камера широм Уједињеног Краљевства.
Осамнаест од двадесет надзираних градова света налази се у Кини, али Лондон је трећи.
Разлика између њих лежи мање у технологији коју земље користе, а више у томе како је користе.
Шта би се десило ако би се дефиниција онога што је илегално у САД-у и Великој Британији проширила тако да укључује критиковање владе или исповедање одређених религија?
Инфраструктура је већ успостављена да би се применила, а вештачка интелигенција - са којом је НСА већ започела експериментисање - омогућила би агенцијама да претражују наше податке брже него икад раније.
Поред појачаног надзора, вештачка интелигенција такође подржава раст дезинформација на мрежи, што је још једно средство ауторитарне власти.
Дубоки фалсификати засновани на вештачкој интелигенцији, који могу ширити измишљене политичке поруке, и алгоритамско микроциљање на друштвеним мрежама чине пропаганду уверљивијом.
То подрива нашу епистемичку сигурност - способност да утврдимо шта је истина и делујемо по њој - од које зависе демократије.
„Током последњих неколико година видели смо пораст филтер мехурића и људи који су различитим алгоритмима били убеђивани да верују разним теоријама завере, или чак ако нису теорије завере, да верују само у делове истине", каже Белфилд.
„Можете да замислите да се ствари погоршавају, посебно са дубоким фалсификатима и сличним стварима, док нам не буде све теже да као друштво одлучимо да су то чињенице, ово морамо да учинимо по том питању, а затим да предузмемо заједничку радњу".
Превентивне мере
Извештај о злонамерној употреби вештачке интелигенције, који су написали Белфилд и двадесет пет аутора из четрнаест институција, предвиђа да ће такви трендови проширити постојеће претње нашој политичкој безбедности и увести нове у наредним годинама.
Ипак, Белфилд каже да му његов рад даје наду и да га позитивни трендови, попут демократскијих расправа о вештачкој интелигенцији и деловања креатора политике.
На пример, ЕУ која размишља о паузирању препознавања лица на јавним местима), држе у оптимизму да можемо избећи катастрофалне судбине.
Дејви се слаже. „Морамо сада да одлучимо које су прихватљиве и неприхватљиве употребе вештачке интелигенције", каже.
„Требало би да будемо опрезни када јој дозволимо да контролише толико наше инфраструктуре. Ако наоружавамо полицију препознавањем лица и савезна влада прикупља све наше податке, то је лош почетак."
Ако сте и даље сумњичави да би вештачка интелигенција могла пружити такву моћ, размислите о свету пре нуклеарног оружја.
Три године пре прве ланчане нуклеарне реакције, чак су и научници који су је покушавали постићи веровали да је то мало вероватно.
Човечанство је, такође, било неспремно за нуклеарни пробој и тетурало се на рубу „међусобно осигураног уништења" пре него што су уговори и споразуми усмерили глобално ширење смртоносног оружја без егзистенцијалне катастрофе.
То можемо учинити и са вештачком интелигенцијом, али само ако комбинујемо лекције из историје са предвиђањем како бисмо се припремили за ову моћну технологију.
Свет можда неће моћи да заустави тоталитарне режиме попут успона нациста у будућности - али можемо избећи да им пружимо алате за неограничено ширење моћи.
