Milliarder boylar oxirzamonga hozirlik ko‘rayotgandek. Biz ham qo‘rqishimiz kerakmi?

Mark Sukerbergning Havaidagi Kauai orolidagi 1400 gektar maydonli Kulau ranchosidagi ishlar 2014 yildayoq boshlangani aytiladi.

Wired jurnali xabariga ko‘ra, unda o‘z energiyasi va oziq-ovqat zaxiralari bor boshpana bo‘lishi kerak, biroq qurilishda ishlaydigan duradgorlar va elektriklar maxfiylik bitimi tufayli bu haqda gapirishi taqiqlangan.

Olti fut balandlikdagi devor loyihani yaqin atrofdagi yo‘ldan to‘sib turardi.

O‘tgan yili qiyomat bunkeri quryapsizmi, deb so‘rganlarida, Facebook asoschisi qat’iy "yo‘q" deb javob bergan. Taxminan 464 m2 maydonni egallagan yer osti maydoni, uning tushuntirishicha, "shunchaki kichik boshpana, xuddi yerto‘laga o‘xshaydi".

Bu uning Kaliforniyaning Palo-Alto shahridagi Kresent-park tumanida 11 ta ko‘chmas mulkni sotib olish qarori haqidagi gap-so‘zlarni to‘xtata olmadi. Aftidan, u yerda 650 m2 yer osti maydoni ham qo‘shilgan.

Garchi uning qurilish ruxsatnomalari yerto‘lalarga tegishli bo‘lsa-da, New York Times gazetasi yozishicha, ba’zi qo‘shnilari uni «bunker» deb ataydi. Yoki milliarderning ko‘rshapalak g‘ori.

Bundan tashqari, boshqa texnologiya yetakchilari atrofida ham mish-mishlar tarqalmoqda. Ularning ba’zilari ko‘p million dollarlik hashamatli bunkerlarga aylantirsa bo‘ladigan qulay yerto‘lalarni sotib olish bilan band ko‘rinadi.

LinkedIn asoschisi Rid Hoffman "qiyomat sug‘urtasi" haqida gapirgan. Uning ta’kidlashicha, o‘ta boylarning taxminan yarmi bunga ega, Yangi Zelandiya esa uylar uchun mashhur manzil hisoblanadi.

Xo‘sh, ular haqiqatan ham urushga, iqlim o‘zgarishi oqibatlariga yoki boshqalar hali bilmagan boshqa halokatli hodisaga tayyorgarlik ko‘rayotgan bo‘lishi mumkinmi?

So‘nggi bir necha yil ichida sun’iy intellektning (SI) rivojlanishi bu ehtimoliy xavflar ro‘yxatiga qo‘shildi. Ko‘pchilik rivojlanish tezligidan juda xavotirda.

Open AI bosh ilmiy xodimi va hammuassisi Ilya Sutskever ulardan biri ekani aytilmoqda.

2023 yil o‘rtalariga kelib, San-Frantsiskoda joylashgan firma hozirda butun dunyo bo‘ylab yuz millionlab odamlar foydalanadigan ChatGPT chatbotini chiqardi va ular yangilanishlar ustida jadal ishlay boshladi.

Ammo o‘sha yozga kelib, jurnalist Karen Xaoning kitobiga ko‘ra, janob Sutskever kompyuter olimlari sun’iy umumiy intellektni (AGI) – mashinalar inson aqliga tenglashadigan nuqtani rivojlantirish arafasida ekaniga tobora ko‘proq ishona boshladi.

Uchrashuvda janob Sutskever hamkasblariga bunday kuchli texnologiya dunyoga chiqarilishidan oldin kompaniyaning eng sara olimlari uchun bunkerlar qazishni taklif qilgani haqida Xao xonim xabar beradi.

"AGI'ni qo‘yib yuborishdan oldin, albatta, bunker quramiz," deb aytgani ko‘pchilikka ma’lum, ammo u "biz" deganda kimni nazarda tutgani aniq emas.

Bu g‘alati faktga oydinlik kiritadi: ko‘plab yetakchi kompyuter olimlari va texnologiya rahbarlari, ba’zilari sun’iy intellektning juda aqlli shaklini ishlab chiqish ustida qattiq ishlayotgan bo‘lsa-da, uning bir kun kelib nimalar qilishi mumkinligidan juda qo‘rqishadi.

Xo‘sh, AGI qachon paydo bo‘ladi? U chindan ham oddiy odamlarni qo‘rqitadigan darajada o‘zgarishlarga olib kela oladimi?

"Biz o‘ylagandan ham ertaroq"

Texnologiya yetakchilari AGI yaqinlashib kelayotganini ta’kidlashmoqda. OpenAI rahbari Sem Altman 2024 yil dekabrida u " ko‘pchilik o‘ylaganidan ham tezroq" kelishini aytgan edi.

DeepMind hammuassisi ser Demis Hassabis yaqin besh-o‘n yil ichida paydo bo‘lishini bashorat qilgan bo‘lsa, Anthropic asoschisi Dario Amodei o‘tgan yili "qudratli sun’iy intellekt" 2026 yildayoq biz bilan bo‘lishi mumkinligini yozgan.

Boshqalar bunga shubha bildirmoqda. "Ular har doim maqsadni o‘zgartiradilar," deydi Sauthempton universitetining informatika professori Deym Vendi Holl. "Kim bilan gaplashishingizga bog‘liq."

"Ilmiy hamjamiyat sun’iy intellekt texnologiyasini hayratlanarli deb hisoblaydi, – deb qo‘shimcha qiladi u, – ammo u inson aqliga yaqin emas."

Cognizant texnologiya firmasi texnologiya bo‘yicha bosh direktori Babak Xodjatning fikricha, avvalo bir qator "fundamental yutuqlar" bo‘lishi kerak.

Bundan tashqari, u bir lahzada yuzaga kelishi dargumon. Aksincha, sun’iy intellekt tez rivojlanayotgan texnologiya bo‘lib, u o‘z yo‘lida ilgarilamoqda, dunyo bo‘ylab o‘z versiyalarini ishlab chiqish uchun ko‘plab kompaniyalar raqobatlashmoqda.

Ammo Kremniy vodiysida bu g‘oya ba’zilarni hayajonga solayotgani sabablaridan biri shundaki, u yanada ilg‘orroq narsa: ASI yoki sun’iy super intellekt – inson aqlidan ustun bo‘lgan texnologiyaning dastlabki ko‘rsatkichi deb hisoblanadi.

"Singulyarlik" tushunchasi 1958 yilda vafotidan keyin vengriyalik matematik Jon fon Neymanga nisbat berilgan. Bu kompyuter intellekti inson tushunchasidan tashqariga chiqqan paytni anglatadi.

Yaqinda Erik Shmidt, Kreyg Mandi va marhum Henri Kissinjer 2024 yilda yozgan "Ibtido" kitobida o‘ta qudratli texnologiya g‘oyasi haqida gapiriladi. Bu texnologiya qaror qabul qilish va rahbarlik qilishda shunchalik samarali bo‘ladiki, natijada boshqaruvni to‘liq unga topshiramiz.

Ular fikricha, bu bo‘lishi aniq, faqat qachon bo‘lishi noma’lum.

Hamma mehnat qilmasdan pul topadimi?

AGI va ASI tarafdorlari uning afzalliklariga deyarli mutaassiblarcha ishonadi. Ular fikricha, u qattol kasalliklarga yangi davolash usullarini topadi, iqlim o‘zgarishini hal qiladi va bitmas-tuganmas toza energiya manbalarini ixtiro qiladi.

Ilon Mask hatto o‘ta aqlli sun’iy intellekt "hammabop yuqori daromad" davrini boshlab berishi mumkinligini ta’kidladi.

Yaqinda u sun’iy intellekt shunchalik arzonlashib, keng tarqaladiki, deyarli har kim "o‘zining shaxsiy R2-D2 va C-3Po'si bo‘lishini" (Star Wars filmi droidlariga ishora) xohlab qoladi, dedi.

"Hamma eng yaxshi tibbiy yordam, oziq-ovqat, uy transporti va boshqa hamma narsaga ega bo‘ladi. Barqaror farovonlik," deya zavq bilan gapirdi u.

Albatta, buning qo‘rqinchli tomoni ham bor. Texnologiya terrorchilar tomonidan o‘g‘irlanib, ulkan qurol sifatida ishlatilishi mumkinmi yoki bu texnologiya insoniyatni dunyo uchun muammo deb hisoblab, bizni yo‘q qilishga qaror qilsa-chi?

"Agar u sizdan aqlliroq bo‘lsa, uni nazorat ostida saqlashimiz kerak," deya ogohlantirdi World Wide Web yaratuvchisi Tim Berners Li shu oy boshida Bi-bi-si bilan suhbatda.

"Biz uni o‘chira olishimiz kerak."

Hukumatlar ba’zi himoya choralarini ko‘rmoqda. Ko‘plab yetakchi sun’iy intellekt kompaniyalari joylashgan AQShda prezident Bayden 2023 yilda ba’zi firmalardan xavfsizlik testlari natijalarini federal hukumatga berishni talab qiluvchi farmon chiqardi. Ammo prezident Tramp buyruqning bir qismini bekor qilib, uni innovatsiyalar uchun "to‘siq" deb atadi.

Shu bilan birga, Buyuk Britaniyada hukumat tomonidan moliyalanadigan tadqiqot organi – Sun’iy intellekt xavfsizligi instituti ilg‘or sun’iy intellekt keltirib chiqaradigan xavflarni chuqurroq o‘rganish uchun tashkil etildi.

Bundan tashqari, qiyomat kuniga tayyorgarlik rejalari bor o‘ta boylar ham yo‘q emas.

"Yangi Zelandiyada uy sotib olyapman deyish ko‘z qisib, qolganini tushuntirishga hojat yo‘q deganidir," degan edi avvalroq Rid Hoffman. Bunkerlar haqida ham shunday deyish mumkin.

Lekin bu yerda aniq insoniy zaiflik bor.

O‘z "bunkeri"ga ega bo‘lgan bir milliarderning sobiq tansoqchisi bilan gaplashdim. U menga, agar bu haqiqatan ham sodir bo‘lsa, xavfsizlik guruhi o‘sha xo‘jayinni avvalo yo‘q qilib, bunkerga o‘zlari kirib olishini aytdi. U hazillashayotganga o‘xshamasdi.

Bularning hammasi quruq vahimami?

Nil Lourens Kembrij universitetining mashina o‘rganuvi professori. Uning fikricha, bu bahsning o‘zi bema’nilik.

"Sun’iy umumiy intellekt tushunchasi «Sun’iy umumiy transport vositasi» tushunchasi kabi bema’ni," deydi u.

"Transport vositasi vaziyatga bog‘liq. Keniyaga uchish uchun Airbus A350 samolyotidan foydalandim, har kuni universitetga mashinada boraman, oshxonaga piyoda boraman... Bularning barchasini bajara oladigan bitta transport vositasi yo‘q."

Uning aytishicha, AGI haqida gapirish e’tiborni chalg‘itadi.

"Biz [allaqachon] yaratgan texnologiya birinchi marta oddiy odamlarga mashina bilan to‘g‘ridan-to‘g‘ri gaplashish va unga o‘zlari xohlagan narsani qildirish imkonini beradi. Bu mutlaqo favqulodda... va butunlay o‘zgartirib yuboradigan hodisa.

Katta xavotir shundaki, biz katta texnologiya kompaniyalarining AGI haqidagi hikoyalariga shunchalik berilib ketganmizki, odamlar hayotini yaxshilash yo‘llarini ko‘rmay qolyapmiz."

Hozirgi sun’iy intellekt vositalari ulkan ma’lumotlar ustida ishlaydi va namunalarni yaxshi aniqlaydi: skanerlarda o‘simta belgilari yoki ma’lum bir ketma-ketlikda bir so‘zdan keyin ikkinchisi kelishi ehtimoli yuqori bo‘lgan so‘zlar. Ammo ularning javoblari ishonchli ko‘rinsa ham, "his qilmaydi".

"(Sun’iy intellekt chatbotlari asosi bo‘lmish) Katta til modelini (LLM) xotiraga ega va o‘rganayotgandek ko‘rsatishning ayyorona yo‘llari bor, ammo ular qoniqarsiz va insonlardan ancha past," deydi janob Xodjat.

Kaliforniyadagi IV.AI kompaniyasi bosh direktori Vins Linch ham AGI haqidagi haddan tashqari da’volarga ehtiyotkor qaraydi.

"Bu ajoyib marketing hiylasi, – deydi u. – Agar hozirga qadar mavjud eng aqlli narsani yaratayotgan kompaniya bo‘lsangiz, odamlar sizga pul to‘lashga rozi bo‘ladi."

U qo‘shimcha qiladi: "Bu ikki yillik ish emas. Bu juda ko‘p hisob-kitobni, insoniy ijodni, sinov va xatolarni talab qiladi."

AGI qachondir yuzaga kelishiga ishonasizmi, deb so‘rashganda, uzoq jimlikdan so‘ng u javob beradi:

"Rostini aytsam, bilmayman."

Ongsiz aql

Qaysidir ma’noda sun’iy intellekt allaqachon inson miyasidan ustun kelgan. Generativ sun’iy intellekt vositasi bir daqiqada O‘rta asrlar tarixining bilimdoni bo‘lishi va keyingi daqiqada murakkab matematik tenglamalarni yechishi mumkin.

Ba’zi texnologiya kompaniyalari o‘zlari yaratgan mahsulotlar nega u yoki bu tarzda javob berishini doim ham bilmasliklarini aytishadi. Meta kompaniyasi o‘zining sun’iy intellekt tizimlari o‘z-o‘zini takomillashtirayotgani belgilari borligini ta’kidlamoqda.

Biroq, oxir-oqibat, mashinalar qanchalik aqlli bo‘lmasin, biologik jihatdan inson miyasi baribir ustun turadi. Uning 86 milliardga yaqin neyroni va 600 trillion sinapsi bor, bu sun’iy ekvivalentlaridan ancha ko‘p.

Miya o‘zaro ta’sirlar orasida to‘xtashga muhtoj emas va u doimiy ravishda yangi ma’lumotlarga moslashadi.

"Agar insonga ekzosayyorada hayot topilganini aytsangiz, u darhol buni bilib oladi va bu uning kelajakdagi dunyoqarashiga ta’sir qiladi. LLM [Katta til modeli] esa, buni ularga fakt sifatida takrorlayversangizgina, buni o‘rganadi," deydi janob Xodjat.

"LLM'lar ham metakognitiv qobiliyatga ega emas, ya’ni ular o‘zlari nimani bilishini aniq bilishmaydi. Insonlar esa bilimlarini anglash imkonini beradigan, ba’zan ong deb ataladigan introspektiv qobiliyatga ega."

Bu inson aqlining asosiy qismi hisoblanadi va hali laboratoriyada yaratilmagan.