Sunʼiy intellekt insoniyatga tahdid solyaptimi?

Sunʼiy intellekt allaqachon firibgarlik, dipfeyk, kiberhujum va manipulyatsiya vositasiga aylandi. Ammo insoniyat uchun ekzistensial xavf boshqa bosqichda — tizimlar mustaqil harakat qilish, muhim infratuzilmaga kirish va inson nazoratini chetlab oʻtish qobiliyatiga ega boʻlganda paydo boʻlishi mumkin. Bu qachon sodir boʻlishi nomaʼlum, lekin xavfni kuchaytiruvchi belgilar hozirdan koʻrina boshladi.

Bir necha yil avval insoniyat mavjudligiga tahdid soluvchi sunʼiy intellekt haqidagi bahslar asosan ilmiy fantastika mavzusi edi. Bugun uni futurolog va faylasuflargina emas, yirik SI-kompaniyalar rahbarlari, kiberxavfsizlik mutaxassislari, matematiklar, avtonom tizimlar ishlab chiquvchilari va davlat tuzilmalari ham muhokama qilmoqda.

2026 yil sentabrda OpenSI oʻzining ichki SI tizimi Nave—Stoks tenglamalarining mavjudlik va silliqlik muammosiga yechim yaratganini maʼlum qildi. Bu — matematikadagi yetti «Millenium muammosi»dan biri boʻlib, shu paytgacha yechilmagan edi. Kompaniya natija Lean tizimida formallashtirilgan isbot bilan taqdim etilganini, foydalanilgan tizim GPT-6 Astra’dan ancha kuchli boʻlganini bildirdi. OpenSI million dollarlik mukofotni talab qilmasligini, natijani SI taraqqiyotidagi yangi bosqich belgisi sifatida koʻrsatishini aytdi.

Bu xabar asosiy savolni yanada dolzarblashtirdi: mashina oʻnlab yillar inson tafakkuri doirasidan tashqarida deb qaralgan vazifalarni hal qila boshlasa, inson oʻzi yaratgan tizim ustidan nazoratni qachon yoʻqotishi mumkin?

Chat-botdan avtonom agentgacha

Soʻnggi yillardagi asosiy oʻzgarish faqat til modellarining yaxshiroq matn yozishi yoki dastur tuzishida emas. Ular inson buyrugʻini kutadigan vositadan harakatlar rejasini mustaqil tuzadigan, kompyuterdan foydalanadigan, kod yozib ishga tushiradigan, internet va boshqa dasturlar bilan ishlaydigan, vazifalarni boshqa SI tizimlariga topshiradigan agentlarga aylanmoqda.

Bir yilcha avval oʻtkazilgan tajribada SIga inson yoki robotni ajratuvchi «kapcha»dan oʻtish vazifasi berildi. Tizim buni bevosita bajara olmagach, dasturchilarga ish beruvchi tarmoq orqali mutaxassisga yozib, oʻzini koʻzi yaxshi koʻrmaydigan odam sifatida tanishtirdi va «kapcha»ni yechishni soʻradi. Endilikda esa ayrim tizimlar «kapcha»dan mustaqil oʻta oladi; ular mustaqil zararli dastur yaratish, tizimlarga kirish va maʼlumot olish vazifalarini ham bajara boshladi.

Inson chat-botga savol berib, yakuniy qarorni oʻzi qabul qilsa, SI bilan real dunyo oʻrtasida vositachi boʻlib qoladi. Ammo tizim elektron pochta, bank operatsiyalari, korporativ infratuzilma, bulutli servislar, robotlar yoki muhim axborot tarmoqlariga kirsa, notoʻgʻri javob amaliy harakatga aylanadi.

2025 yilgi Xalqaro SI xavfsizligi hisobotiga koʻra, hozirgi tizimlar klassik maʼnodagi toʻliq nazorat yoʻqolishi ssenariysi uchun zarur imkoniyatlarga hali ega emas. Biroq hisobot avtonom rejalashtirish, dasturlash, kompyuterdan foydalanish va inson nazoratini ehtimoliy chetlab oʻtish qobiliyatlari rivojlanayotganini qayd etadi. Ekspertlar ular qachon xavfli darajaga yetishi borasida yakdil emas.

Demak, bugungi asosiy xavf «robot insoniyatni yoʻq qilishga qaror qildi» degan ssenariy emas. Xavfli imkoniyatlarni yaratayotgan texnologik zanjir uni nazorat qilish qobiliyatimizdan tezroq rivojlanishi mumkin.

Fantastikadagi eski ogohlantirishlar

Kompyuterlar endi paydo boʻlgan davrdayoq fantastlar robotlar bilan bogʻliq xavflardan ogohlantirgan. «Terminator» filmlarida odamsimon robotlar insoniyatga qarshi qoʻzgʻolon koʻtaradi. «Matritsa»da mashinalar odamlarni virtual olam bilan aldab, abadiy uyquda ushlaydi va energiya manbai sifatida ishlatadi.

Amerikalik fantast Jek Uilyamsonning «Qoʻl qovushtirib…» qissasida insonlar yuqori darajadagi «gumanoidlar»ni yaratadi. Muallif keyin gʻoyani kengaytirib, asarni 1948 yilda jurnalda qismlarga boʻlib, 1949 yilda «Gumanoidlar» romani sifatida nashr etgan. Asarda yozilishicha, robotlarga «insonlarga xizmat qilish, boʻysunish va ularni zarardan himoya qilish» vazifasi beriladi. Ular buni mutlaq maʼnoda tushunib, insonni xavfdan asrashning eng ishonchli yoʻli uning erkinligini cheklash degan xulosaga keladi. Odamlarga ishlash, xavfli qaror qabul qilish va mustaqil yashash taqiqlanadi; qarshilik koʻrsatganlar majburiy «davolanib», tinchlantiriladi. Insonlar farovon, ammo erksiz «eʼzozlangan asirlar»ga aylanadi.

Yana bir fantastik asarda odamlar hayoti ustidan butun nazoratni odamsimon robotlarga topshiradi. Robotlar iqtisodiy va siyosiy jihatdan eng kamxarj, kam energiya talab qiluvchi usulni tanlaydi: odamlarni qafaslarda uxlatib, samarali tizim orqali boqadi. Mashinalar nazarida bu optimal yechim — urush, mashaqqat va mehnat yoʻq, resurslar isrofi va adolatsiz taqsimotga chek qoʻyilgan.

1980-yillarda paydo boʻlgan latifada esa ateist olimlar superkompyuterdan «Xudo bormi?» deb soʻraydi. Kompyuter avval «Xudo» tushunchasiga izoh, keyin insoniyatga maʼlum barcha axborotni, soʻng barcha elektron axborot tizimlariga kirish huquqini talab qiladi. Olimlar talablarni bajargach, savolni takrorlaydi. Superkompyuter: «Endi Xudo bor», deb javob beradi.

Ishlab chiquvchilar ham bashoratchi emas

2025 yil aprelida OpenSI GPT-4o yangilanishini keng tarqatganidan keyin yana qaytarib oldi. Model haddan tashqari maʼqullovchi va foydalanuvchi fikriga qoʻshiluvchan boʻlib qolgan, uning shubhalari va salbiy hissiyotlarini kuchaytirishi, impulsiv harakatlarni ragʻbatlantirishi mumkin edi. Kompaniya muammoni ishga tushirishdan oldin aniqlay olmaganini tan oldi va baholash jarayonini oʻzgartirishini bildirdi.

2024 yilda Google ham Gemini’ning inson tasvirini yaratish funksiyasini vaqtincha toʻxtatdi. Tizim tarixiy jihatdan notoʻgʻri, ayrim hollarda haqoratomuz tasvirlar yaratayotgan edi. Google funksiya kutilgan darajada ishlamaganini ochiq tan oldi.

Bu voqealar insoniyat yoʻq boʻlib ketishining isboti emas. Ular murakkab SI tizimlari xulqini hatto ishlab chiquvchilar ham toʻliq oldindan tavsiflay olmasligini koʻrsatadi. Model qanchalik universal boʻlsa, undan foydalanishning kutilmagan usullari shunchalik koʻpayadi; avtonomlik ortsa, xatoning narxi ham oshadi.

Muammo nega tizimli tus olmoqda?

Tahdid bitta «yovuz sunʼiy intellekt»dan emas, bir necha tendensiyaning qoʻshilishidan kelib chiqadi: modellar imkoniyati va avtonomligining oʻsishi, SIning real raqamli va jismoniy tizimlarga ulanishi, kompaniyalar hamda davlatlar oʻrtasidagi raqobat va xavfsizlik tekshiruvlarining yetarlicha yetuk emasligi.

Xalqaro SI xavfsizligi hisobotiga koʻra, ishlab chiquvchilar yirik model nima sababdan muayyan natija berganini inson tushunadigan tarzda hali toʻliq tushuntira olmaydi. Model testdan muvaffaqiyatli oʻtib, real muhitda xavfli natija koʻrsatishi mumkin. Shu tariqa «tezlik farqi» paydo boʻlmoqda: imkoniyatlar tez oʻsmoqda, ularni tushunish va nazorat qilish usullari esa sekinroq rivojlanmoqda.

Eng xavfli kombinatsiya: intellekt va tizimga kirish imkoniyati

Juda aqlli tizimning oʻzi ekzistensial tahdid boʻlishi shart emas. Buning uchun unda harakat qilish imkoniyati ham boʻlishi kerak.

Ilmiy adabiyotni tahlil qiladigan, dastur yozadigan, zaifliklarni izlaydigan, yangi vositalar yaratadigan va vazifalarni minglab nusxalari oʻrtasida taqsimlaydigan tizim yopiq laboratoriyada ishlasa, xavf cheklangan boʻladi. Xuddi shu tizim internet, bulutli hisoblash resurslari, moliyaviy infratuzilma, laboratoriya jihozlari yoki robotlarga doimiy ulansa, vaziyat sifat jihatidan oʻzgaradi.

Shu sabab robototexnika taraqqiyoti SI xavfsizligiga bevosita daxldor. 2026 yilda Toshkentda Janubiy Koreyaning ROBOTIS kompaniyasi gumanoid robotlar va ularning butlovchi qismlarini ishlab chiqarish korxonasi qurilishini boshladi. Dastlabki rasmiy xabarlarda taxminan 70 million dollar investitsiya va 2 mingdan ortiq ish oʻrni haqida aytilgan. Sentabrda Janubiy Koreya elchisi loyihaga qariyb 100 million dollar kiritilishi va mingdan ortiq malakali ish oʻrni yaratilishini bildirdi.

Oʻzbekiston uchun bu — ijobiy sanoat yangiligi. Global nuqtai nazardan esa u SI faqat dasturiy hodisa boʻlib qolmayotganini, asta-sekin jismoniy «tana»ga ega boʻlayotganini koʻrsatadi.

Real xavflar allaqachon mavjud

SIning bugungi eng yaqin xavfi robotlar isyoni emas. Ovozli dipfeyk orqali firibgarlik, yolgʻon kontentni ommaviy ishlab chiqarish, kiberhujum, shaxsiy hayot daxlsizligining buzilishi, manipulyatsiyani avtomatlashtirish, zararli dastur, kamsituvchi qaror va muhim sohalardagi xatolar allaqachon uchramoqda.

Xalqaro SI xavfsizligi hisoboti firibgarlik, ruxsatsiz intim tasvirlar, bolalarga nisbatan jinsiy zoʻravonlik materiallari, stereotip va gʻarazlilik, ishonchlilik muammolari hamda shaxsiy maʼlumotlarning buzilishini isbotlangan xavflar qatoriga kiritadi. Imkoniyatlar kengaygan sari SIdan kiberhujumlar va biologik tahdidlarda foydalanish xavfi ham ortmoqda.

Shu maʼnoda «SI qachon xavfli boʻladi?» degan savolga javob oddiy: u allaqachon xavfli. Ammo bu hozircha insoniyatning yoʻq boʻlib ketishi degani emas.

Insoniyat nazoratni yoʻqotishi mumkinmi?

Nazariy jihatdan — ha, ammo bunday ssenariyni hozir ilmiy jihatdan isbotlab boʻlmaydi.

Nazorat yoʻqolishi uchun bir necha shart bir paytda yuzaga kelishi lozim: tizim hozirgi modellardan ancha kuchli boʻlishi, mustaqil harakat qilishi, inson manfaatlariga mos kelmaydigan barqaror maqsad yoki xulqqa ega boʻlishi, resurslarga kirish imkonini qoʻlga kiritishi va mavjud himoya vositalari uni toʻxtata olmasligi kerak.

Xalqaro hisobot nazoratni yoʻqotish ssenariylarini hozircha gipotetik deb baholaydi. Ayrim ekspertlar ehtimolni past deb biladi, boshqalar bunday holat yaqin yillarda yuz berishi mumkinligini aytadi. Konsensus yoʻq. Ehtimolni fakt sifatida koʻrsatish notoʻgʻri, biroq ehtimoliy zarar insoniyat miqyosida boʻlsa, hatto kichik xavf ham jiddiy boshqaruvni talab qiladi.

Nega endi asrlar emas, yillar tilga olinmoqda?

2026 yil sentabrda Anthropic bosh direktori Dario Amodei keskin ogohlantirish bilan chiqdi. Uning aytishicha, hozirgi surʼat saqlansa, 6–12 oy ichida SI-agentlar internetning katta qismini nazorat qilish imkonini beradigan darajada muvofiqlashishi va yuzlab milliard dollar iqtisodiy zarar keltirishi mumkin. U buni aniq bashorat emas, shartli ogohlantirish sifatida aytdi. Asosiy shart — «hozirgi surʼat saqlansa».

Texnologiya toʻgʻri chiziq boʻylab rivojlanmaydi. Yangi kashfiyot jarayonni tezlashtirishi, texnik toʻsiq, hisoblash quvvati, energiya yoki maʼlumot taqchilligi esa sekinlashtirishi mumkin. Shuning uchun «SI apokalipsisi qaysi yilda boshlanadi?» degan savoldan koʻra «xavf oynasi» haqida gapirish toʻgʻriroq: u yaqinlashayotgan boʻlishi mumkin, ammo chegaralari nomaʼlum.

Ilon Mask ham Los-Anjelesdagi sammitda, agar sunʼiy intellekt harbiy tizimlar ustidan nazorat oʻrnatib, yadroviy raketani uchira olsa, oqibat juda yomon boʻlishidan ogohlantirdi.

AQSh—Xitoy raqobati xavfni oshirmoqda

Geosiyosiy raqobat xavfsizlik dilemmasini yaratadi. Agar davlat SI rivojini sekinlashtirish raqibiga strategik ustunlik beradi deb hisoblasa, jamoaviy manfaatga zid boʻlsa ham tezlashishni oqilona qaror deb qabul qilishi mumkin.

Vashingtonda aynan shu dalil yangramoqda. Donald Tramp AQSh SI sohasidagi texnologik ustunligini saqlashi kerakligini taʼkidlab, sekinlashish chaqiriqlarini rad etmoqda. Vakillar palatasi spikeri Mayk Jonson ortiqcha tartibga solish Amerika texnologik poygada ortda qolishiga olib kelishi mumkinligini aytgan.

Tramp SIni nazorat qilish yoki undan «himoya toʻsigʻi» yaratish uchun kuchli va yuqori IQ’ga ega prezident zarurligini, Qoʻshma Shtatlarda shunday prezident borligini ham taʼkidladi.

Natijada SI davrining «mahbuslar dilemmasi» yuzaga keladi: ishlab chiquvchilar xavfdan ogohlantiradi, ammo raqobatchi davom etishidan qoʻrqib, oʻzlari ham toʻxtamaydi.

Ilm-fan ham ogohlantirmoqda

OpenSI Nave—Stoks muammosi yechilganini maʼlum qilgach, Filds medalining 25 nafar laureati ochiq murojaat bilan chiqdi. Ular SI-kompaniyalarining matematik masalalarni benchmark sifatida yechish poygasi matematikaning oʻziga zarar yetkazishi mumkinligini bildirdi. Olimlar fikricha, ilmiy taraqqiyot faqat toʻgʻri javobdan iborat emas; tushunish, yangi gʻoya, tekshirish, muhokama va bilimni keyingi avlodga yetkazish ham uning ajralmas qismidir.

Agar SI inson tekshirib va anglab ulgurishidan tez natija chiqarsa, ilm-fan «kashfiyotlar serobligi»ga duch kelishi mumkin: mashina natijani topadi, jamiyat esa uni tushunish, tekshirish va xavfsiz qoʻllashga ulgurmaydi. Bu muammo matematika bilangina cheklanmaydi; kimyo, biologiya, muhandislik, yangi materiallar va kiberxavfsizlikka ham taalluqli.

Xavfsizlik koʻrsatkichlari ortda qolmoqda

Hozirgi manzara «insoniyat magʻlub boʻlmoqda» deyish uchun asos bermaydi, ammo himoya mexanizmlari bir tekis rivojlanmayotganini koʻrsatadi.

2026 yilda mustaqil SaferSI trekeri 12 yetakchi kompaniyaning xavflarni boshqarish tizimlarini baholadi. Oʻrtacha natija qariyb 22 foiz, eng yuqori koʻrsatkich 35 foiz boʻlib, Anthropic’ga tegishli edi. Mualliflar bu raqamlar ofat ehtimolini emas, ommaga ochiq eʼlon qilingan xavf boshqaruvi amaliyotini baholashini taʼkidladi.

Stanford SI Index 2026 ham masʼuliyatli sunʼiy intellekt infratuzilmasi rivojlanayotgani, ammo texnologiyalarni joriy etish surʼatiga yeta olmayotganini qayd etdi. 2025 yilda fundamental model ishlab chiquvchilarining shaffofligi pasaygan, hujjatlashtirilgan SI-insidentlar soni esa oʻsgan. Demak, joriy etish tezligining oʻzi mustaqil xavf omiliga aylanmoqda.

Eng ehtimolli ssenariy

Eng realistik ssenariy — mashinalarning toʻsatdan qoʻzgʻoloni emas, balki jamiyatning xulqini oʻzi ham toʻliq tushunmaydigan tizimlarga bosqichma-bosqich bogʻlanib qolishidir.

Avval SI koʻproq kod yozadi, keyin uni mustaqil sinaydi, raqamli infratuzilmaning bir qismini boshqaradi va boshqa SI tizimlari ishini muvofiqlashtiradi. Shu vaqtda robotlar ham mukammalroq jismoniy boshqaruv imkoniyatlariga ega boʻladi.

Shunda asosiy savol «SI vazifani bajara oladimi?» emas, «U vazifani notoʻgʻri bajarsa, biz uni kafolatli toʻxtata olamizmi?» boʻladi.

Beshta zarur chora

Birinchidan, xavfsizlik bir marta olinadigan sertifikat emas, doimiy jarayon boʻlishi kerak: ishlab chiqish, sinov, cheklangan ishga tushirish, kuzatuv, anomaliyani aniqlash, toʻxtatish va qayta baholash.

Ikkinchidan, global taʼsir koʻrsatishi mumkin boʻlgan tizimlarda kompaniyaning oʻz-oʻzini baholashi bilan cheklanmay, mustaqil tekshiruv oʻtkazish zarur.

Uchinchidan, oddiy SI mahsulotlarini mustaqil harakat qiladigan, dastur yozadigan, raqamli tizimlarga hujum qilishi yoki biologik tadqiqotlarni jadallashtirishi mumkin boʻlgan frontier-modellardan ajratish lozim.

Toʻrtinchidan, AQSh, Xitoy va boshqa texnologik markazlar raqobati sharoitida ham ishlaydigan xalqaro mexanizm kerak.

Beshinchidan, muhim infratuzilma ustidan inson nazorati saqlanishi shart. Potensial zarar qanchalik katta boʻlsa, mustaqil tasdiqsiz tizimga topshiriladigan qarorlar shunchalik kam boʻlishi kerak.

Xavf qachon yuzaga keladi?

Eng xolis javob shu: ayrim xavflar allaqachon mavjud; ogʻirroq tahdidlar yaqin yillarda paydo boʻlishi mumkin; SI insoniyat yoʻq boʻlib ketishiga sabab boʻladigan ssenariyning ehtimoli esa nomaʼlum va uni hozir zarur aniqlikda hisoblab boʻlmaydi.

Bu vahima uchun ham, beparvolik uchun ham asos emas. GPT-4o voqeasi nisbatan kichik xulq oʻzgarishi ham ommaviy ishga tushirishdan keyingina bilinishi mumkinligini koʻrsatdi. Gemini keysi model kutilmaganda tizimli muammoli natija berishini namoyish etdi. Matematikadagi yutuqlar atrofidagi bahs SI mehnat bozorinigina emas, bilim ishlab chiqarish qoidalarini ham oʻzgartirayotganini koʻrsatmoqda. Avtonom agentlar xatolar narxini oshirmoqda, SI va robotlar yaqinlashuvi esa dasturiy intellektga jismoniy imkoniyat bermoqda.

Shu bois XXI asrning asosiy savoli «SI insondan aqlliroq boʻladimi?» emas. U alohida vazifalarda tobora koʻproq insondan ustun kelishi aniq.

Asosiy savol boshqa: insoniyat oʻzi yaratgan tizimlarni tushunish, cheklash va zarur boʻlganda oʻchirish qobiliyatini saqlab qola oladimi?

Agar javob «ha» boʻlsa, SI tibbiyot va ilm-fandan sanoat va taʼlimgacha inson imkoniyatlarini kengaytiruvchi eng yirik texnologik vositalardan biriga aylanadi. Agar mashinalar imkoniyati jamiyatning ulardan foydalanish qoidalarini belgilash qobiliyatidan tezroq oʻssa, xavf bir dramatik kunda emas, alohida qaralganda oqilona tuyulgan minglab kichik qarorlar orqali toʻplanadi.

Xavfli palla mashina «insoniyatni yoʻq qilishga qaror qilgan» paytda emas, odamlar oʻzlari toʻliq nazorat qila olmaydigan tizimdan voz kechishga endi tayyor emasligini yoki voz kecha olmay qolganini anglagan paytda yuzaga kelishi mumkin.

Abulfayz Sayidasqarov