Наука, технологија и психологија: Зашто превише верујемо машинама

Док је лет 447 „Ер Франса" падао ка Атлантском океану брзином од скоро 300 километара на сат (186 миља на сат), пилот Пјер-Седрик Бонин се борио са командама.

Он и његова посада преузели су контролу након што се аутопилот изненада сам искључио, очигледно због накупљања леда на авиону. Била је то ситуација која је захтевала ручну интервенцију.

Пилоти, који нису били упознати са овим сценаријем, борили су се да стабилизују авион.

Збуњујуће поруке и аларми из рачунара авиона бомбардовали су их и сугерисали да летелица није стала, а заправо јесте.

Бонинове последње речи, забележене на снимачу лета, биле су: „Срушићемо се - ово не може бити истина. Али шта се дешава?"

Свих 228 путника и чланова посаде погинуло је тог дана, 1. јуна 2009 године.

Када се догоде овакве несреће, у којима учествују људи и машине, обично постоји више фактора или узрока.

Али аналитичари су делимично кривили за трагедију лета 447 претерано ослањање или поверење у машине.

Они су указали на очекивање летачке посаде да ће аутопилот остати укључен, а да ће информациони системи авиона пружити тачне информације.

То је далеко од јединог инцидента у којем је претерано ослањање на технологију довело до смртних случајева.

То је добро проучен феномен познат као пристрасност аутоматизације, који понекад такође доводи до опуштања због аутоматизације, где су људи мање способни да уоче кварове када рачунар руководи ситуацијом.

Али оно што је можда изненађујуће је да је наша склоност да „прекомерно верујемо" машинерији можда директно под утицајем милиона година еволуције.

„Прекомерно поверење у технологију је грешка запањујућих размера", пише Патриша Хардре са Универзитета у Оклахоми у поглављу књиге о томе зашто понекад превише верујемо у машине.

Она тврди да људи генерално немају способност да процене колико је одређена технологија поуздана.

Ово заправо може ићи у оба смера.

Можемо одбацити помоћ рачунара у ситуацијама када би нам то користило - или слепо веровати таквом уређају, само да би он на крају штетио нама или нашим животима. или нашим средствима за живот.

Понашање једног од наших најближих рођака, шимпанзе, може садржати траг о томе зашто смо тако лоши у процени поузданости машина.

То би могло бити зато што смо припремљени да процењујемо друге припаднике наше врсте.

У недавном експерименту, истраживачи су поставили машину у којој су шимпанзе у уточишту у Кенији могле да вуку уже да би добиле награду за храну.

Једно уже је нудило основну награду за храну - један комад банане.

Али, представљена им је и друга опција - већа награда од два комада банане и парче јабуке, које би могла да избаци машина или друга шимпанза.

Понекад је то била машина на другом крају ужета, други пут још једна шимпанза, али никада обоје.

Међутим, понекад машина не би испоручила награду, а понекад би друга шимпанза одлучила да не подели.

Дакле, иако је постојала потенцијално већа награда, био је мање сигуран избор да се повуче друго уже.

Учесник шимпанза је тако био суочен или са друштвеним или недруштвеним условом.

Морали би да верују или машини или другој шимпанзи да би имали шансу за већу награду за храну.

Студија је показала да, када је колега шимпанза одлучивао о неизвесној опцији, примати су мање били склони томе.

Одбили су да се укључе у друштвеним испитивањима 12 одсто времена, али су ову аверзију показали у само четири одсто времена у недруштвеним испитивањима где је машина управљала наградом. Другим речима, имали су веће поверење у машину.

„Били су много неодлучнији... када је партнер била друга шимпанза", каже Лу Хаз са Института Макс Планк за људски развој, која је дизајнирала и водила експеримент са својим колегама.

То је једна од само неколико студија које откривају да друштвени ризик игра велику улогу у томе како се шимпанзе и људи крећу светом.

То се зове „одбојност према издаји", каже Хазова:

„Страх да вас превари други човек (или шимпанза), за који се сматра да изазива јаче емоције".

Она ово упоређује са стављањем новца у машину за продају која онда не избаци безалкохолно пиће које сте тражили.

То би, без сумње, могло изазвати иритацију, али замислите како бисте се осећали када би вам бармен узео новац, а затим наставио да пије вашу кока колу пред вама.

Вероватно бисте били љути.

Наравно, машина за продају није донела одлуку да вас превари, само није успела да испоручи, док је бармен одлучио да попије вашу наруџбу упркос томе што је знао како бисте се осећали.

Међутим, истраживачки тим се ту није зауставио.

Наставили су са извођењем још једног експеримента који је укључивао шимпанзе које су већ схватиле колика је вероватноћа да ће добити бољу награду за храну када одаберу неизвесну опцију, захваљујући учешћу у првом експерименту.

Неизвесна опција, истина, више није била потпуно неизвесна - шимпанзе су сада имале осећај какав ризик преузимају.

И тада се појавило изненађење.

Шимпанзе су престале да праве разлику између друштвених и недруштвених опција - чинило се да су престали да више верују машини него колегама шимпанзама.

„Зато мислимо да је то узбудљиво откриће, да они праве разлику између друштвеног и недруштвеног света у случајевима где још постоји много неизвесности", каже Хазова.

Има смисла када размислите о томе колико је важно да примати преговарају о свом друштвеном окружењу, каже Дарби Проктор, психолошкиња са Технолошког института Флориде.

„Са машином, нема будућих импликација", објашњава она.

„Немате тај додатни потенцијални друштвени трошак."

На крају крајева, шимпанзе у овим експериментима често морају да оду и проводе време са другим учесницима када се оглед заврши - свако незадовољство изазвано учешћем може имати даље последице по њихове односе.

Проктор и колеге су раније спровели сличне тестове и такође су открили да шимпанзе имају већу вероватноћу да верују објектима у потрази за наградама за храну у односу на друге шимпанзе.

Проктор напомиње да, када је једног од примата наизглед изневерила друга шимпанза која није успела да додели обилну награду за храну, потиштена шимпанза је показала своја осећања тако што је пљунула воду на партнера.

„Уобичајени приказ незадовољства", каже Прокторова.

Прокторова поставља питање да ли су шимпанзе у овим експериментима заиста више веровале машинама.

Такође би се могло описати као да појединци једноставно имају пригушеније реакције на лош договор када социјални партнер није укључен.

„Није да имамо поверења да ће нас машина ваљано исплатити, можда је не видимо као емоционално истакнуту, па смо можда склонији да се коцкамо или ризикујемо са овим неживим предметом", она претпоставља.

Али у сваком случају, чини се да је еволуција утицала на спремност примата да се ангажују са неизвесношћу, на основу тога да ли осећамо да преузимамо друштвени ризик или не.

Еволуција нас није баш припремила на чињеницу да може бити прилично скупо да нас изда машина, тврди Франческа де Петриљо са Института за напредне студије у Тулузу, која проучава примате.

Милионима година није било потребе да се развија способност да се машине процењују тако пажљиво као што процењујемо припаднике исте врсте.

Али данас, када технологија може имати огроман утицај на животе људи, та потреба вероватно постоји.

Овде су укључени и други фактори.

Осим еволуције, на нашу спремност да верујемо технологији такође утиче лично знање о машини или уређају и културолошка очекивања.

Студија из 2019. показала је да је у просеку 29 одсто већа вероватноћа да ће људи одати податке о својој кредитној картици током текстуалног ћаскања ако мисле да разговарају са рачунаром у односу на друго људско биће.

Истраживачи су открили да је овај ефекат био још израженији међу онима који су раније очекивали да су машине сигурније или поузданије од људи.

А опет, понекад људи пријављују снажну аверзију према технологији којој верују.

Многа истраживања су показала да се људима често не свиђа идеја да самостално возе аутомобиле или да препусте радне обавезе машинама.

Постоји много разлога због којих сумње у нову технологију могу узети маха.

Људи би се могли плашити да ће изгубити део свог идентитета ако машина преузме власт.

Или ће једноставно бити скептични да ће рачунар приступити одређеним задацима са потребним опрезом и спретношћу.

Када сте видели стотину видео снимака робота који падају, или искусили тврдоглави рачунар који одбија да функционише исправно, то није нужно изненађујуће.

Међу онима који су проучавали шта може утицати на спремност појединца да верује одређеном технолошком систему је Филип Кулмс, социјални психолог са Универзитета Билефелд у Немачкој.

Он и његов колега осмислили су слагалицу у стилу тетриса у којој су учесници сарађивали са компјутерским партнером који је такође имао контролу над неким деловима.

Када је рачунар добро играо игру и омогућио људском играчу приступ деловима високе вредности који су им донели додатне поене, учесници су вероватније пријавили да верују компјутерском играчу, а такође и вероватније да ће размењивати делове слагалице са њим у заједничком напору, што показује да су то поверење изразили и у игри.

То је поверење формирано од стране механичара, ако хоћете.

„На наше изненађење, овај веома ограничен скуп варијабли којима смо могли да манипулишемо је очигледно био довољан", каже Кулмс.

Ако прихватимо да су људи генерално лоше опремљени да процене веродостојност машина јер смо, са еволуционе тачке гледишта, припремљени да судимо о поузданости на основу друштвених знакова, онда ово има савршеног смисла.

Такође се поклапа са другим истраживањима која сугеришу да ће коцкари више коцкати када играју на слот машинама које су дизајниране да приказују својства налик људима.

Зоолошки врт у Јапану покушао је да научи шимпанзе да користе продајну машину тако што ће посматрати децу - такве интеракције са технологијом су у потпуности изграђене на поверењу.

Другим речима, нисмо само лоши у одмеравању веродостојности машине, већ нас лако заведу и механички предмети када почну да се понашају помало као друштвени партнер коме су наши најбољи интереси при срцу.

Дакле, за разлику од особе која се опекла са компјутерима и не верује више ниједном, појединац који је научио да верује у одређене системе - као што су аутопилоти авиона - може се мучити да схвати како би тај систем могао погрешити, чак и када јесте.

Де Петриљо напомиње да је искусила осећај поверења у рачунаре када је комуницирала са помоћницима који се активирају гласом као што су Еплов Сири или Амазонова Алекса.

„Претпостављам да се понашају у мом најбољем интересу, тако да не морам да их испитујем", каже она.

Све док изгледају компетентни и разумно топли, сугерише Кулмсова студија, то ће и даље бити случај, сматрају де Петриљо и многи други.

Кулм истиче да је због тога толико важно за дизајнере технологије да се постарају да њихови системи буду етички и њихова функционалност транспарентна.

Велика иронија свега овога је у томе што иза наизглед поверљиве машине може стајати злонамерни човек са подлим намерама.

Неоправдано поверење у неисправну машину је довољно опасно, без обзира на ону која је дизајнирана да обмане.

„Да преузимамо исту врсту ризика са човеком, били бисмо много боље прилагођени могућим негативним исходима", каже Проктор.

Она и Хазова се слажу да је потребно више рада да би се открило колико шимпанзе у њиховим студијама искрено верују машинама и у којој мери то открива истине о људском понашању.

Али овде постоји наговештај да је на наше повремено, понекад катастрофално, превелико поверење у технологију утицала једноставна чињеница: еволуирали смо да будемо друштвене животиње у свету у коме машине нису постојале.

Сада постоје и ми стављамо свој новац, своје личне податке, па чак и своје животе под њихов надзор све време.

То није нужно погрешна ствар - само што смо често прилично лоши у процени када је то исправно.

Погледајте видео о роботу који плеше као Мик Џегер

Пратите нас на Фејсбуку и Твитеру. Ако имате предлог теме за нас, јавите се на [email protected]