Технолошки милијардери се припремају за смак света – треба ли да бринемо

Прича се да је Марк Закерберг почео да ради на изградњи ранча Кулау, његовог пространог комплекса који се протеже на 1.400 јутара на хавајском острву Кауаи, још давне 2014.

Он би требало да обухвата склониште, са све властитим залихама енергије и хране, мада је столарима и електричарима који раде на локацији забрањено да говоре било шта о томе на основу потписаних уговора о поверљивости података, према извештају из часописа Вајерд.

Зидови од два метра заклањају пројекат од погледа с оближњег пута.

Упитан прошле године да ли зида бункер за случај смака света, оснивач Фејсбука је одговорио једним децидираним: „Не.“

Овај подземни простор простире се на неких 460 квадратних метара , објаснио је он, „баш као мало склониште, као подрум“.

То није зауставило спекулације - исто као ни његова одлука да купи 11 поседа у четврти Кресент Парк у Палу Алту у Калифорнији, наводно им додавши подземни простор од 650 квадратних метара испод.

Иако се његове дозволе за градњу односе на подруме, према Њујорк тајмсу, неке његове комшије их називају бункерима.

Илити милијардеровом бет пећином.

А ту су и спекулације око других технолошких лидера, од који су неки наизглед били заузети куповином комада земље са подземним просторима, зрелим за претварање у луксузне бункере вредне више милиона фунти.

Рид Хофман, суоснивач ЛинкедИна, говорио је о „осигурању од апокалипсе“.

То је нешто што поседује око половина супер-богатих, претходно је тврдио он, са Новим Зеландом као веома популарном дестинацијом за такве домове.

Да ли се, дакле, они заиста припремају за рат, последице климатских промена или неке друге катастрофалне догађаје за које остатак нас тек треба да сазна?

У последњих неколико година, напредак вештачке интелигенције (АИ) само је додат на списак потенцијалних егзистенцијалних недаћа.

Илија Сутскевер, главни научник и суоснивач Опен АИ-ја, наводно је један од њих.

Средином 2023, ова фирма са седиштем у Сан Франциску објавила је ЧетГПТ - четбот који данас користи стотине милиона људи широм планете - и убрзано радила на његовим ажурирањима.

Али истог лета је Сутскевер постао све уверенији да су компјутерски научници на ивици да створе Општу вештачку интелигенцију (АГИ) - што је тренутак када машине достижу људску интелигенцију - према књизи новинарке Карен Хао.

На једном састанку, Сутскевер је саветовао колеге да ископају подземно склониште за најбоље научнике компаније пре него што тако моћна технологија буде пуштена у свет, пише Хао.

„Дефинитивно ћемо изградити бункер пре него што објавимо АГИ“, наводно је он рекао, мада је нејасно на кога је мислио под „ми“.

То указује на једну веома чудну чињеницу: многи водећи компјутерски научници и технолошки лидери, од којих неки вредно раде на развијању изузетно интелигентног облика вештачке интелигенције, такође делују крајње уплашени од онога што би једног дана она могла да уради.

Када ће, дакле - ако икада - АГИ доћи?

И да ли може да се покаже довољно трансформативном да је се обични људи плаше?

Долазак 'скорије него што мислимо'

Технолошки лидери тврде да је АГИ неизбежна.

Шеф ОпенАИ-ја Сем Алтман изјавио је у децембру 2024. да ће доћи „раније него што већина људи на свету мисли“.

Сер Демис Хасабис, суоснивач ДипМајнда, предвидео је да ће то десити у наредних пет до десет година, док је оснивач Антропика Дарио Амодеи написао прошле године да би његов преферирани израз - „моћна АИ“ – могао да буде са нама већ 2026.

Други су сумњичави према томе.

„Они све време померају пречке“, каже дама Венди Хол, професорка компјутерске науке са Универзитета у Саутхемтпону.

„Зависи од тога са ким причате.“

Причамо на телефону, али готово да могу да је чујем како преврће очима.

„Научна заједница каже да је технологија вештачке интелигенције фантастична“, додаје она, „али она није ни близу људске интелигенције.“

Прво би морало да дође до низа „фундаменталних напредака“, слаже се Бабак Хоџат, главни технолошки службеник технолошке фирме Когнизант.

Штавише, мало је вероватно да ће она стићи у само једном тренутку.

Уместо тога, АИ је технологија која се рапидно развија, она је тренутно на путовању и постоји много компанија широм света које се надмећу која ће прва развити властиту верзију.

Али један разлог зашто ова идеја узбуђује неке у Силицијумској долини је да се верује да је она претходник нечему још напреднијем: АСИ-ју, илити вештачкој супер интелигенцији – технологији која надмашује људску интелигенцију.

Концепт „сингуларитета“ је 1958. био постхумно приписан математичару рођеном у Мађарској Џону фон Нојману.

Он се односи на тренутак када се компјутерска интелигенција развије изван људског поимања.

У скорије време, књига Постање из 2024, коју су написали Ерик Шмит, Крег Мунди и покојни Хенри Кисинџер, истражује идеју супер-моћне технологије која постаје толико ефикасна у доношењу одлука и лидерству да јој на крају у потпуности предајемо контролу.

Питање је када, а не да ли, тврде они.

Новац за све, без потребе за послом?

Они који заступају идеју АГИ и АСИ готово су страствени у вези са њиховим користима.

Пронаћи ће нове лекове за смртоносне болести, решити климатске промене и измислити неисцрпан извор чисте енергије, тврде они.

Илон Маск чак тврди да би супер-интелигентна вештачка интелигенција могла да донесе еру „универзално високих прихода“.

Он је недавно изнео идеју да ће вештачка интелигенција постати толико јефтина да ће буквално сви желети „властите личне Р2-Д2 и Ц-3ПО“ (мислећи на дроиде из Ратова звезда).

„Сви ће имати најбољу медицинску негу, храну, кућни превоз и све остало. Одрживо изобиље“, додао је он.

Постоји и застрашујућа страна свега тога, наравно.

Могу ли ову технологију да преотму терористи и искористе је као огромно оружје, или шта ако она сама за себе одлучи да је човечанство узрок свих светских проблема и уништи нас?

„Ако је паметнији од вас, онда морамо да га зауздавамо“, упозорио је Тим Бернерс Ли, творац Светске мреже (Wорлд Wиде Wеб), говорећи за ББЦ раније овог месеца.

„Мораћемо да можемо да га искључимо.“

Владе предузимају неке заштитне мере.

У САД, где се налазе многе водеће вештачке компаније вештачке интелигенције, председник Бајден издао је извршну наредбу 2023. која је захтевала од неких фирми да поделе резултате њихових тестова безбедности са федералном владом - мада је председник Трамп у међувремену повукао део те наредбе, назвавши је „препреком“ иновацијама.

У међувремену, у Великој Британији, Институт за безбедност вештачке интелигенције - истраживачко тело финансирано од владе - основан је пре две године ради бољег разумевања ризика које представља напредна вештачка интелигенција.

А потом су ту и супер-богати са властитим плановима за осигурање од апокалипсе.

„Кад кажете да 'купујете кућу на Новом Зеланду' , то вам је већ велики намиг-намиг, не мораш више ништа да говориш“, претходно је рекао Рид Хофман.

Исто највероватније важи и за бункере.

Али ту постоји и једна изричито људска фалинка.

Једном сам причала са бившим телохранитељем једног од милијардера са властитим „бункером“, који ми је рекао би први приоритет његовог безбедносног тима, ако би се то стварно десило, био да се елиминише дотични шеф и да они сами уђу у бункер.

И изгледало је као да се уопште не шали.

Да ли су све то паничарске глупости?

Нил Лоренс је професор машинског учења на Универзитету у Кембриџу.

За њега је читава ова расправа сама по себи чиста глупост.

„Идеја Вештачке опште интелигенције је сама по себи апсурд баш као што је то идеја о 'Вештачком општем возилу'“, тврди он.

„Право возило зависи од контекста. Користио сам Ербас А350 да одлетим до Кеније, користим аутомобил да стигнем до универзитета сваки дан, идем пешке до кафетерије… Не постоји возило које може да покрије све то.“

За њега је разговор о АГИ пуко одвраћање пажње.

„Технологија коју већ имамо омогућава нам, по први пут, да нормални људи директно причају са машином и потенцијално је наведу да уради оно што они желе. То је апсолутно изузетно... и крајње трансформативно.“

„Велики разлог за забринутост је што нас толико привлаче наративи великих технолошких компанија о АГИ да пропуштамо начине на које треба да учинимо ствари бољим за људе.“

Актуелне алатке вештачке интелигенције обучене су на хрпи података и добре су у уочавању образаца: било знакова тумора на снимцима или речи која ће се највероватније појавити после неке друге у одређеној реченици.

Али оне не „осећају“, колико год убедљиво њихови одговори деловали.

„Постоје неки 'преварантски' начини да се Велики језички модели (темељ АИ четботова) натерају да се понашају као да поседују меморију и уче, али они су незадовољавајући и прилично инфериорни у односу на људе“, каже Хоџат.

Винс Линч, извршни директор калифорнијске ИВ.АИ, такође је уморан од пренадуваних изјава о АГИ.

„То је само добар маркетинг“, каже он.

„Ако сте компанија која гради најпаметнију ствар која је икада постојала, људи ће желети да вам дају новац.“

Он додаје: „Ту се не ради о ствари која је удаљена две године. Она захтева много рачунања, много људске креативности, много покушаја и грешака.“

Упитан да ли верује да ће се АГИ икада материјализовати, он прави велику паузу.

„Стварно не знам.“

Интелигенција без свести

На неке начине, вештачка интелигенција је већ остварила предност у односу на људски мозак.

Алат генеративне вештачке интелигенције може бити стручњак за средњовековну историју у једном тренутку, а већ у следећем решавати сложене математичке једначине.

Неке технолошке компаније кажу да не знају увек зашто њихови производи реагују онако како реагују.

Компанија Мета каже да постоје неки знаци да се њихови системи вештачке интелигенције побољшавају сами од себе.

На крају, међутим, без обзира на то колико машине постану интелигентне, у биолошком погледу људски мозак и даље побеђује.

Он има око 86 милијарди неурона и 600 билиона синапси, много више од вештачких еквивалената.

Мозак такође не мора да прави паузе између интеракција и стално се прилагођава новим информацијама.

„Ако човеку кажете да је на егзопланети пронађен живот, он ц́е то одмах усвојити и то ц́е утицати на његов поглед на свет у будуц́ности. Што се тиче Великог језичког модела, он ц́е то знати само док год му то стално понављате као чињеницу“, каже Хоџат.

„Велики језички модели такође немају мета-когницију, што значи да баш и не знају шта све знају.

„Људи изгледају поседују интроспективни капацитет, који се понекад назива још и свешћу, а који им омогућава да знају то што знају.“

То је фундаментални део људске интелигенције – и онај који тек треба да се ископира у лабораторији.

Главна фотографија: Тхе Wасхингтон Пост виа Геттy Имагес/ Геттy Имагес

ББЦ на српском је од сада и на Јутјубу, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу и Вајберу. Ако имате предлог теме за нас, јавите се на [email protected]