Миллиардер бойлар охирзамонга ҳозирлик кўраётгандек. Биз ҳам қўрқишимиз керакми?

Марк Цукербергнинг Ҳаваидаги Кауаи оролидаги 1400 гектар майдонли Кулау ранчосидаги ишлар 2014 йилдаёқ бошлангани айтилади.

Wired журнали хабарига кўра, унда ўз энергияси ва озиқ-овқат захиралари бор бошпана бўлиши керак, бироқ қурилишда ишлайдиган дурадгорлар ва электриклар махфийлик битими туфайли бу ҳақда гапириши тақиқланган.

Олти фут баландликдаги девор лойиҳани яқин атрофдаги йўлдан тўсиб турарди.

Ўтган йили қиёмат бункери қуряпсизми, деб сўрганларида, Facebook асосчиси қатъий "йўқ" деб жавоб берган. Тахминан 464 м2 майдонни эгаллаган ер ости майдони, унинг тушунтиришича, "шунчаки кичик бошпана, худди ертўлага ўхшайди".

Бу унинг Калифорниянинг Пало-Алто шаҳридаги Кресент-парк туманида 11 та кўчмас мулкни сотиб олиш қарори ҳақидаги гап-сўзларни тўхтата олмади. Афтидан, у ерда 650 м2 ер ости майдони ҳам қўшилган.

Гарчи унинг қурилиш рухсатномалари ертўлаларга тегишли бўлса-да, New York Times газетаси ёзишича, баъзи қўшнилари уни «бункер» деб атайди. Ёки миллиардернинг кўршапалак ғори.

Бундан ташқари, бошқа технология етакчилари атрофида ҳам миш-мишлар тарқалмоқда. Уларнинг баъзилари кўп миллион долларлик ҳашаматли бункерларга айлантирса бўладиган қулай ертўлаларни сотиб олиш билан банд кўринади.

LinkedIn асосчиси Рид Ҳоффман "қиёмат суғуртаси" ҳақида гапирган. Унинг таъкидлашича, ўта бойларнинг тахминан ярми бунга эга, Янги Зеландия эса уйлар учун машҳур манзил ҳисобланади.

Хўш, улар ҳақиқатан ҳам урушга, иқлим ўзгариши оқибатларига ёки бошқалар ҳали билмаган бошқа ҳалокатли ҳодисага тайёргарлик кўраётган бўлиши мумкинми?

Сўнгги бир неча йил ичида сунъий интеллектнинг (СИ) ривожланиши бу эҳтимолий хавфлар рўйхатига қўшилди. Кўпчилик ривожланиш тезлигидан жуда хавотирда.

Open AI бош илмий ходими ва ҳаммуассиси Иля Сутскевер улардан бири экани айтилмоқда.

2023 йил ўрталарига келиб, Сан-Францискода жойлашган фирма ҳозирда бутун дунё бўйлаб юз миллионлаб одамлар фойдаланадиган ChatGPT чатботини чиқарди ва улар янгиланишлар устида жадал ишлай бошлади.

Аммо ўша ёзга келиб, журналист Карен Хаонинг китобига кўра, жаноб Сутскевер компьютер олимлари сунъий умумий интеллектни (AGI) – машиналар инсон ақлига тенглашадиган нуқтани ривожлантириш арафасида эканига тобора кўпроқ ишона бошлади.

Учрашувда жаноб Сутскевер ҳамкасбларига бундай кучли технология дунёга чиқарилишидан олдин компаниянинг энг сара олимлари учун бункерлар қазишни таклиф қилгани ҳақида Хао хоним хабар беради.

"AGI'ни қўйиб юборишдан олдин, албатта, бункер қурамиз," деб айтгани кўпчиликка маълум, аммо у "биз" деганда кимни назарда тутгани аниқ эмас.

Бу ғалати фактга ойдинлик киритади: кўплаб етакчи компьютер олимлари ва технология раҳбарлари, баъзилари сунъий интеллектнинг жуда ақлли шаклини ишлаб чиқиш устида қаттиқ ишлаётган бўлса-да, унинг бир кун келиб нималар қилиши мумкинлигидан жуда қўрқишади.

Хўш, AGI қачон пайдо бўлади? У чиндан ҳам оддий одамларни қўрқитадиган даражада ўзгаришларга олиб кела оладими?

"Биз ўйлагандан ҳам эртароқ"

Технология етакчилари AGI яқинлашиб келаётганини таъкидлашмоқда. OpenAI раҳбари Сэм Альтман 2024 йил декабрида у " кўпчилик ўйлаганидан ҳам тезроқ" келишини айтган эди.

DeepMind ҳаммуассиси сэр Демис Ҳассабис яқин беш-ўн йил ичида пайдо бўлишини башорат қилган бўлса, Anthropic асосчиси Дарио Амодеи ўтган йили "қудратли сунъий интеллект" 2026 йилдаёқ биз билан бўлиши мумкинлигини ёзган.

Бошқалар бунга шубҳа билдирмоқда. "Улар ҳар доим мақсадни ўзгартирадилар," дейди Саутҳемптон университетининг информатика профессори Дейм Венди Ҳолл. "Ким билан гаплашишингизга боғлиқ."

"Илмий ҳамжамият сунъий интеллект технологиясини ҳайратланарли деб ҳисоблайди, – деб қўшимча қилади у, – аммо у инсон ақлига яқин эмас."

Cognizant технология фирмаси технология бўйича бош директори Бабак Ходжатнинг фикрича, аввало бир қатор "фундаментал ютуқлар" бўлиши керак.

Бундан ташқари, у бир лаҳзада юзага келиши даргумон. Аксинча, сунъий интеллект тез ривожланаётган технология бўлиб, у ўз йўлида илгариламоқда, дунё бўйлаб ўз версияларини ишлаб чиқиш учун кўплаб компаниялар рақобатлашмоқда.

Аммо Кремний водийсида бу ғоя баъзиларни ҳаяжонга солаётгани сабабларидан бири шундаки, у янада илғорроқ нарса: ASI ёки сунъий супер интеллект – инсон ақлидан устун бўлган технологиянинг дастлабки кўрсаткичи деб ҳисобланади.

"Сингулярлик" тушунчаси 1958 йилда вафотидан кейин венгриялик математик Жон фон Нейманга нисбат берилган. Бу компьютер интеллекти инсон тушунчасидан ташқарига чиққан пайтни англатади.

Яқинда Эрик Шмидт, Крейг Манди ва марҳум Ҳенри Киссинжер 2024 йилда ёзган "Ибтидо" китобида ўта қудратли технология ғояси ҳақида гапирилади. Бу технология қарор қабул қилиш ва раҳбарлик қилишда шунчалик самарали бўладики, натижада бошқарувни тўлиқ унга топширамиз.

Улар фикрича, бу бўлиши аниқ, фақат қачон бўлиши номаълум.

Ҳамма меҳнат қилмасдан пул топадими?

AGI ва ASI тарафдорлари унинг афзалликларига деярли мутаассибларча ишонади. Улар фикрича, у қаттол касалликларга янги даволаш усулларини топади, иқлим ўзгаришини ҳал қилади ва битмас-туганмас тоза энергия манбаларини ихтиро қилади.

Илон Маск ҳатто ўта ақлли сунъий интеллект "ҳаммабоп юқори даромад" даврини бошлаб бериши мумкинлигини таъкидлади.

Яқинда у сунъий интеллект шунчалик арзонлашиб, кенг тарқаладики, деярли ҳар ким "ўзининг шахсий R2-D2 ва C-3Po'си бўлишини" (Star Wars филми дроидларига ишора) хоҳлаб қолади, деди.

"Ҳамма энг яхши тиббий ёрдам, озиқ-овқат, уй транспорти ва бошқа ҳамма нарсага эга бўлади. Барқарор фаровонлик," дея завқ билан гапирди у.

Албатта, бунинг қўрқинчли томони ҳам бор. Технология террорчилар томонидан ўғирланиб, улкан қурол сифатида ишлатилиши мумкинми ёки бу технология инсониятни дунё учун муаммо деб ҳисоблаб, бизни йўқ қилишга қарор қилса-чи?

"Агар у сиздан ақллироқ бўлса, уни назорат остида сақлашимиз керак," дея огоҳлантирди World Wide Web яратувчиси Тим Бернерс Ли шу ой бошида Би-би-си билан суҳбатда.

"Биз уни ўчира олишимиз керак."

Ҳукуматлар баъзи ҳимоя чораларини кўрмоқда. Кўплаб етакчи сунъий интеллект компаниялари жойлашган АҚШда президент Байден 2023 йилда баъзи фирмалардан хавфсизлик тестлари натижаларини федерал ҳукуматга беришни талаб қилувчи фармон чиқарди. Аммо президент Трамп буйруқнинг бир қисмини бекор қилиб, уни инновациялар учун "тўсиқ" деб атади.

Шу билан бирга, Буюк Британияда ҳукумат томонидан молияланадиган тадқиқот органи – Сунъий интеллект хавфсизлиги институти илғор сунъий интеллект келтириб чиқарадиган хавфларни чуқурроқ ўрганиш учун ташкил этилди.

Бундан ташқари, қиёмат кунига тайёргарлик режалари бор ўта бойлар ҳам йўқ эмас.

"Янги Зеландияда уй сотиб оляпман дейиш кўз қисиб, қолганини тушунтиришга ҳожат йўқ деганидир," деган эди аввалроқ Рид Ҳоффман. Бункерлар ҳақида ҳам шундай дейиш мумкин.

Лекин бу ерда аниқ инсоний заифлик бор.

Ўз "бункери"га эга бўлган бир миллиардернинг собиқ тансоқчиси билан гаплашдим. У менга, агар бу ҳақиқатан ҳам содир бўлса, хавфсизлик гуруҳи ўша хўжайинни аввало йўқ қилиб, бункерга ўзлари кириб олишини айтди. У ҳазиллашаётганга ўхшамасди.

Буларнинг ҳаммаси қуруқ ваҳимами?

Нил Лоуренс Кембриж университетининг машина ўргануви профессори. Унинг фикрича, бу баҳснинг ўзи бемаънилик.

"Сунъий умумий интеллект тушунчаси «Сунъий умумий транспорт воситаси» тушунчаси каби бемаъни," дейди у.

"Транспорт воситаси вазиятга боғлиқ. Кенияга учиш учун Airbus А350 самолётидан фойдаландим, ҳар куни университетга машинада бораман, ошхонага пиёда бораман... Буларнинг барчасини бажара оладиган битта транспорт воситаси йўқ."

Унинг айтишича, AGI ҳақида гапириш эътиборни чалғитади.

"Биз [аллақачон] яратган технология биринчи марта оддий одамларга машина билан тўғридан-тўғри гаплашиш ва унга ўзлари хоҳлаган нарсани қилдириш имконини беради. Бу мутлақо фавқулодда... ва бутунлай ўзгартириб юборадиган ҳодиса.

Катта хавотир шундаки, биз катта технология компанияларининг AGI ҳақидаги ҳикояларига шунчалик берилиб кетганмизки, одамлар ҳаётини яхшилаш йўлларини кўрмай қоляпмиз."

Ҳозирги сунъий интеллект воситалари улкан маълумотлар устида ишлайди ва намуналарни яхши аниқлайди: сканерларда ўсимта белгилари ёки маълум бир кетма-кетликда бир сўздан кейин иккинчиси келиши эҳтимоли юқори бўлган сўзлар. Аммо уларнинг жавоблари ишончли кўринса ҳам, "ҳис қилмайди".

"(Сунъий интеллект чатботлари асоси бўлмиш) Катта тил моделини (LLM) хотирага эга ва ўрганаётгандек кўрсатишнинг айёрона йўллари бор, аммо улар қониқарсиз ва инсонлардан анча паст," дейди жаноб Ходжат.

Калифорниядаги IV.AI компанияси бош директори Винс Линч ҳам AGI ҳақидаги ҳаддан ташқари даъволарга эҳтиёткор қарайди.

"Бу ажойиб маркетинг ҳийласи, – дейди у. – Агар ҳозирга қадар мавжуд энг ақлли нарсани яратаётган компания бўлсангиз, одамлар сизга пул тўлашга рози бўлади."

У қўшимча қилади: "Бу икки йиллик иш эмас. Бу жуда кўп ҳисоб-китобни, инсоний ижодни, синов ва хатоларни талаб қилади."

AGI қачондир юзага келишига ишонасизми, деб сўрашганда, узоқ жимликдан сўнг у жавоб беради:

"Ростини айтсам, билмайман."

Онгсиз ақл

Қайсидир маънода сунъий интеллект аллақачон инсон миясидан устун келган. Генератив сунъий интеллект воситаси бир дақиқада Ўрта асрлар тарихининг билимдони бўлиши ва кейинги дақиқада мураккаб математик тенгламаларни ечиши мумкин.

Баъзи технология компаниялари ўзлари яратган маҳсулотлар нега у ёки бу тарзда жавоб беришини доим ҳам билмасликларини айтишади. Meta компанияси ўзининг сунъий интеллект тизимлари ўз-ўзини такомиллаштираётгани белгилари борлигини таъкидламоқда.

Бироқ, охир-оқибат, машиналар қанчалик ақлли бўлмасин, биологик жиҳатдан инсон мияси барибир устун туради. Унинг 86 миллиардга яқин нейрони ва 600 триллион синапси бор, бу сунъий эквивалентларидан анча кўп.

Мия ўзаро таъсирлар орасида тўхташга муҳтож эмас ва у доимий равишда янги маълумотларга мослашади.

"Агар инсонга экзосайёрада ҳаёт топилганини айтсангиз, у дарҳол буни билиб олади ва бу унинг келажакдаги дунёқарашига таъсир қилади. LLM [Катта тил модели] эса, буни уларга факт сифатида такрорлайверсангизгина, буни ўрганади," дейди жаноб Ходжат.

"LLM'лар ҳам метакогнитив қобилиятга эга эмас, яъни улар ўзлари нимани билишини аниқ билишмайди. Инсонлар эса билимларини англаш имконини берадиган, баъзан онг деб аталадиган интроспектив қобилиятга эга."

Бу инсон ақлининг асосий қисми ҳисобланади ва ҳали лабораторияда яратилмаган.