Ваҳима ё ҳақиқат: Сунъий ақл инсониятни қириб юборадими? Yangiliklar Dunyo
Сурат манбаси, Getty Images
- Author, Крис Валланс
- Role, Технология мухбири
- Ўқилиш вақти: 3 дақ
Энди нима бўлади? Инсоният хато қилдими?
Алоқадор мавзулар:
- Янгиликлар: Сунъий ақл тизимларини яратган олим нега ўз ишидан афсусда эканини айтмоқда?
- Сунъий ақл: Дунёдаги қудрат саноқли компаниялар қўлига ўтиб кетадими?
- Уруш ва тинчлик: Қирувчи самолётларга сунъий ақл ўрнатилади – бу урушни қандай ўзгартиради?
- Сунъий ақл чўнтагингиз шўрига айланадими? - Ўзбекистон ва дунё
Огоҳлантириш
Экспертлар, шу жумладан, OpenAI ва Google'нинг Deepmind лойиҳаси раҳбарлари яқинда Сунъий ақл инсониятнинг қирилиб кетишига олиб бориши мумкинлиги ҳақида огоҳлантиришди.
Сунъий ақл (СА) хавфсизлиги маркази вебсаҳифасида эълон қилинган баёнотни ўнлаб экспертлар имзолаган.
"СА сабабли қирилиб кетиш хавфини юмшатиш пандемия ва ядро уруши каби кенг миқёсли бошқа хавфларни камайтиришдек устувор масаладир", дейилади баёнотда.
Бошқалар эса бу қадар қўрқишга асос йўқлигини айтмоқда.
ChatGPT яратувчиси OpenAI компанияси бош директори Сэм Алтман, Google'нинг DeepMind лойиҳаси раҳбари Демис Ҳассабис ва Anthropic'дан Дарио Амадей баёнотни имзолаган.
Сурат манбаси, .
СА хавфсизлиги маркази бир қанча эҳтимолий ҳалокат сценарийларини келтиради:
- СА қуролга айлантирилиши мумкин - масалан, дори топадиган воситалар кимёвий қурол яратиш учун қўлланиши мумкин.
- СА орқали тарқатиладиган дезинформация жамиятдаги барқарорликни йўққа чиқариши ва "жамоавий қарор қабул қилишлар самарадорлигини тушириши" мумкин.
- СА қудрати борган сари бир ҳовуч одамлар қўлида жамланиши, турли режимларга оммавий кузатув ва зулмкор цензура ўрнатишига ёрдам бериши мумкин.
- Wall-E фильмида тасвирлангани каби одамлар заиф жонзотларга айланиб, САга қарам бўлиб қолиши мумкин.
Аввалроқ юқори қувватдаги СА хавфи ҳақида огоҳлантирган доктор Жефри Ҳинтон СА хавфсизлиги маркази баёнотини дастаклаган.
Монреал университети компьютер илмлари профессори Ёшуа Бенгио ҳам баёнотни имзолаган.
Доктор Ҳинтон, профессор Бенгио ва Нью-Йорк университети профессори Янн ЛеКун соҳада қилган илмий ишлари сабабли "САнинг чўқинтирган оталари" деб таърифланади. Улар компьютер илмларига қўшган улкан ҳиссаси учун 2018 йили Тюринг мукофотига лойиқ топилган.
Meta'да ҳам ишловчи профессор ЛеКуннинг айтишича, апокалиптик огоҳлантиришларда муболаға бор ва "СА тадқиқотчиларининг бу каби башоратларга реакцияси кўпинча шунчаки фейспалминг бўлади."
'Пароканда реаллик'
Айни мақолада Google YouTube томонидан тақдим қилинган контент мавжуд. Биз бу контент юкланмасидан аввал сизнинг розилигингизни сўраймиз, чунки улар куки ва бошқа технологиялардан фойдаланган бўлиши мумкин. Сиз Google YouTube ҳаволасида кукиларга доир ва шахсий маълумотларга оид қоидалар ҳақида аввал ўқиб, кейин қабул қилишга рози бўлишингиз мумкин. Кўриш учун “қабул қилиш ва давом этиш”ни танланг.
Охири YouTube пост
САнинг инсониятнинг қириб юбориши ҳақидаги хавотирларга аксар бошқа экспертлар ҳам шу каби муносабат билдиради. Уларнинг фикрича, бу каби бўрттирилган башоратлар реал муаммолардан, дейлик, СА тизимлари қарорларидаги нохолислик каби масалалардан эътиборни чалғитади.
Принстон университетидан компьютер олими Арвинд Нараянан аввалроқ Би-би-cига илмий-фантастик жанрларга хос сценарийлар нореалистикдир деди: "Ҳозирги СА бу каби хавфларни пайдо қилиш қувватига эга эмас. Натижада, бу хавотирлар САнинг яқин келажакдаги реал хавфларидан эътибор чалғияпти."
Оксфорд университетининг СА этикаси бўйича институти бош тадқиқотчиси Элизабет Рениерснинг BBC News'га айтишича, яқин келажакдаги хавфлар кўпроқ хавотирли.
"САдаги илгарилаш нохолис, дискриминацион, эксклюзив, текшириб бўлмайдиган автоматик қарорлар сонини кўпайтиради", дейди у. Улар "ёлғон ахборот ҳажми ва тарқалишини кескин кўпайтириши, ижтимоий ишончни емириши, нотенгликни янада кенгайтириши мумкин".
Аксарият СА воситалари "ҳозиргача инсоният тўплаган тажриба"дан "текинга" фойдаланади, дейди Рениерс хоним. Улар инсон яратган контент орқали ўргатилади, матнлар, санъат асарлари ва мусиқага тақлид қилишлари мумкин. Уларнинг яратувчилари эса "барча инсонларга тегишли бўлган қудрат ва бойликни шу билан самарали равишда бир ҳовуч хусусий ташкилотларга ўтказиб беради".
Аммо СА хавфсизлиги маркази директори Дэн Ҳендрикснинг Би-би-сига айтишича, келажакдаги хавф ва ҳозирги хавотирларга "қарама-қаршиликлар призмасидан қараш керак эмас".
"Бугунги муаммоларни ечиш, эртанги кўплаб хавфлар олдини олишда асқатиши мумкин", дейди у.
Суперинтеллект сари
2023 йил мартида экспертлар, шу жумладан, Tesla раҳбари Илон Маск СА технологияларининг кейинги авлодини ривожлантиришни тўхтатиб туришга ундаб ёзилган очиқ хатни имзолагандан кейин ОАВ САнинг эҳтимолий "экзистенциал" хавфи ҳақида кўпроқ ёза бошлади.
"Бизни сон ва сифат жиҳатидан қувиб ўтиб, охири чиқитга чиқарадиган ноинсоний онг"ни яратишимиз керакми, дейилади хатда.
Бунга муқобил равишда, янги баёнотда "муҳокамаларга туртки бериш" кўзлангани айтилган.
Бу баёнотда янги хавф ядро урушига қиёсланади. OpenAI блогпостида суперинтеллектни ядро энергиясини регуляция қилган каби назоратга олиш мумкинлиги айтилган. "Бизга охир оқибат Халқаро атом энергетикаси агентлиги каби суперинтеллект учун ҳам регулятор керак бўлиши мумкин", деб ёзади компания.
'Ишонинг'
Сэм Алтман ҳам, Google бош ижрочи директори Сундар Пичаи ҳам яқинда Британия Бош вазири билан сунъий интеллектни тартибга солишни муҳокама қилган технология раҳбарлари орасида эди.
Журналистларга сунъий интеллект хавфи ҳақида гапирар экан, Риши Сунак унинг иқтисодиёт ва жамият учун фойдаларини ҳам таъкидлади.
"Унинг сўнгги пайтларда фалаж бўлиб қолган одамларга юришга ёрдам берганига, янги антибиотикларни кашф қилаётганига гувоҳмиз, аммо биз бунинг хавфсиз амалга оширилишига ишонч ҳосил қилишимиз керак", деди у.
"Шунинг учун ўтган ҳафта мен йирик сунъий интеллект компаниялари раҳбарлари билан учрашиб, қандай чекловлар қўйишимиз кераклигини, хавфсизлигимизни таъминлаш учун уни қандай тартибга солишимиз кераклигини муҳокама қилдим.
"Одамлар сунъий интеллект пандемия ёки ядро урушлари каби экзистенциал хавф туғдиришидан хавотирда.
Мен улар ҳукумат буни диққат билан кузатиб бораётганига ишонишларини истайман."
Сунакнинг айтишича, у яқинда G7 саммитида бу масалани бошқа етакчилар билан муҳокама қилган ва тез орада уни АҚШда яна кўтаради.
Яқинда G7 СА бўйича ишчи гуруҳ тузди.
Telegram kanalimiz: https://t.me/bbcuzbek
BBC.COM/UZBEK
Telegramda bog'lanish raqami +44 7858860002
