Сунъий интеллект инсониятга таҳдид соляптими?

Сунъий интеллект аллақачон фирибгарлик, дипфейк, киберҳужум ва манипуляция воситасига айланди. Аммо инсоният учун экзистенциал хавф бошқа босқичда — тизимлар мустақил ҳаракат қилиш, муҳим инфратузилмага кириш ва инсон назоратини четлаб ўтиш қобилиятига эга бўлганда пайдо бўлиши мумкин. Бу қачон содир бўлиши номаълум, лекин хавфни кучайтирувчи белгилар ҳозирдан кўрина бошлади.

Бир неча йил аввал инсоният мавжудлигига таҳдид солувчи сунъий интеллект ҳақидаги баҳслар асосан илмий фантастика мавзуси эди. Бугун уни футуролог ва файласуфларгина эмас, йирик СИ-компаниялар раҳбарлари, киберхавфсизлик мутахассислари, математиклар, автоном тизимлар ишлаб чиқувчилари ва давлат тузилмалари ҳам муҳокама қилмоқда.

2026 йил сентябрда OpenСИ ўзининг ички СИ тизими Навье—Стокс тенгламаларининг мавжудлик ва силлиқлик муаммосига ечим яратганини маълум қилди. Бу — математикадаги етти «Миллениум муаммоси»дан бири бўлиб, шу пайтгача ечилмаган эди. Компания натижа Lean тизимида формаллаштирилган исбот билан тақдим этилганини, фойдаланилган тизим GPT-6 Astra’дан анча кучли бўлганини билдирди. OpenСИ миллион долларлик мукофотни талаб қилмаслигини, натижани СИ тараққиётидаги янги босқич белгиси сифатида кўрсатишини айтди.

Бу хабар асосий саволни янада долзарблаштирди: машина ўнлаб йиллар инсон тафаккури доирасидан ташқарида деб қаралган вазифаларни ҳал қила бошласа, инсон ўзи яратган тизим устидан назоратни қачон йўқотиши мумкин?

Чат-ботдан автоном агентгача

Сўнгги йиллардаги асосий ўзгариш фақат тил моделларининг яхшироқ матн ёзиши ёки дастур тузишида эмас. Улар инсон буйруғини кутадиган воситадан ҳаракатлар режасини мустақил тузадиган, компьютердан фойдаланадиган, код ёзиб ишга туширадиган, интернет ва бошқа дастурлар билан ишлайдиган, вазифаларни бошқа СИ тизимларига топширадиган агентларга айланмоқда.

Бир йилча аввал ўтказилган тажрибада СИга инсон ёки роботни ажратувчи «капча»дан ўтиш вазифаси берилди. Тизим буни бевосита бажара олмагач, дастурчиларга иш берувчи тармоқ орқали мутахассисга ёзиб, ўзини кўзи яхши кўрмайдиган одам сифатида таништирди ва «капча»ни ечишни сўради. Эндиликда эса айрим тизимлар «капча»дан мустақил ўта олади; улар мустақил зарарли дастур яратиш, тизимларга кириш ва маълумот олиш вазифаларини ҳам бажара бошлади.

Инсон чат-ботга савол бериб, якуний қарорни ўзи қабул қилса, СИ билан реал дунё ўртасида воситачи бўлиб қолади. Аммо тизим электрон почта, банк операциялари, корпоратив инфратузилма, булутли сервислар, роботлар ёки муҳим ахборот тармоқларига кирса, нотўғри жавоб амалий ҳаракатга айланади.

2025 йилги Халқаро СИ хавфсизлиги ҳисоботига кўра, ҳозирги тизимлар классик маънодаги тўлиқ назорат йўқолиши сценарийси учун зарур имкониятларга ҳали эга эмас. Бироқ ҳисобот автоном режалаштириш, дастурлаш, компьютердан фойдаланиш ва инсон назоратини эҳтимолий четлаб ўтиш қобилиятлари ривожланаётганини қайд этади. Экспертлар улар қачон хавфли даражага етиши борасида якдил эмас.

Демак, бугунги асосий хавф «робот инсониятни йўқ қилишга қарор қилди» деган сценарий эмас. Хавфли имкониятларни яратаётган технологик занжир уни назорат қилиш қобилиятимиздан тезроқ ривожланиши мумкин.

Фантастикадаги эски огоҳлантиришлар

Компьютерлар энди пайдо бўлган даврдаёқ фантастлар роботлар билан боғлиқ хавфлардан огоҳлантирган. «Терминатор» фильмларида одамсимон роботлар инсониятга қарши қўзғолон кўтаради. «Матрица»да машиналар одамларни виртуал олам билан алдаб, абадий уйқуда ушлайди ва энергия манбаи сифатида ишлатади.

Америкалик фантаст Жек Уильямсоннинг «Қўл қовуштириб…» қиссасида инсонлар юқори даражадаги «гуманоидлар»ни яратади. Муаллиф кейин ғояни кенгайтириб, асарни 1948 йилда журналда қисмларга бўлиб, 1949 йилда «Гуманоидлар» романи сифатида нашр этган. Асарда ёзилишича, роботларга «инсонларга хизмат қилиш, бўйсуниш ва уларни зарардан ҳимоя қилиш» вазифаси берилади. Улар буни мутлақ маънода тушуниб, инсонни хавфдан асрашнинг энг ишончли йўли унинг эркинлигини чеклаш деган хулосага келади. Одамларга ишлаш, хавфли қарор қабул қилиш ва мустақил яшаш тақиқланади; қаршилик кўрсатганлар мажбурий «даволаниб», тинчлантирилади. Инсонлар фаровон, аммо эрксиз «эъзозланган асирлар»га айланади.

Яна бир фантастик асарда одамлар ҳаёти устидан бутун назоратни одамсимон роботларга топширади. Роботлар иқтисодий ва сиёсий жиҳатдан энг камхарж, кам энергия талаб қилувчи усулни танлайди: одамларни қафасларда ухлатиб, самарали тизим орқали боқади. Машиналар назарида бу оптимал ечим — уруш, машаққат ва меҳнат йўқ, ресурслар исрофи ва адолатсиз тақсимотга чек қўйилган.

1980-йилларда пайдо бўлган латифада эса атеист олимлар суперкомпьютердан «Худо борми?» деб сўрайди. Компьютер аввал «Худо» тушунчасига изоҳ, кейин инсониятга маълум барча ахборотни, сўнг барча электрон ахборот тизимларига кириш ҳуқуқини талаб қилади. Олимлар талабларни бажаргач, саволни такрорлайди. Суперкомпьютер: «Энди Худо бор», деб жавоб беради.

Ишлаб чиқувчилар ҳам башоратчи эмас

2025 йил апрелида OpenСИ GPT-4o янгиланишини кенг тарқатганидан кейин яна қайтариб олди. Модель ҳаддан ташқари маъқулловчи ва фойдаланувчи фикрига қўшилувчан бўлиб қолган, унинг шубҳалари ва салбий ҳиссиётларини кучайтириши, импульсив ҳаракатларни рағбатлантириши мумкин эди. Компания муаммони ишга туширишдан олдин аниқлай олмаганини тан олди ва баҳолаш жараёнини ўзгартиришини билдирди.

2024 йилда Google ҳам Gemini’нинг инсон тасвирини яратиш функциясини вақтинча тўхтатди. Тизим тарихий жиҳатдан нотўғри, айрим ҳолларда ҳақоратомуз тасвирлар яратаётган эди. Google функция кутилган даражада ишламаганини очиқ тан олди.

Бу воқеалар инсоният йўқ бўлиб кетишининг исботи эмас. Улар мураккаб СИ тизимлари хулқини ҳатто ишлаб чиқувчилар ҳам тўлиқ олдиндан тавсифлай олмаслигини кўрсатади. Модель қанчалик универсал бўлса, ундан фойдаланишнинг кутилмаган усуллари шунчалик кўпаяди; автономлик ортса, хатонинг нархи ҳам ошади.

Муаммо нега тизимли тус олмоқда?

Таҳдид битта «ёвуз сунъий интеллект»дан эмас, бир неча тенденциянинг қўшилишидан келиб чиқади: моделлар имконияти ва автономлигининг ўсиши, СИнинг реал рақамли ва жисмоний тизимларга уланиши, компаниялар ҳамда давлатлар ўртасидаги рақобат ва хавфсизлик текширувларининг етарлича етук эмаслиги.

Халқаро СИ хавфсизлиги ҳисоботига кўра, ишлаб чиқувчилар йирик модел нима сабабдан муайян натижа берганини инсон тушунадиган тарзда ҳали тўлиқ тушунтира олмайди. Модель тестдан муваффақиятли ўтиб, реал муҳитда хавфли натижа кўрсатиши мумкин. Шу тариқа «тезлик фарқи» пайдо бўлмоқда: имкониятлар тез ўсмоқда, уларни тушуниш ва назорат қилиш усуллари эса секинроқ ривожланмоқда.

Энг хавфли комбинация: интеллект ва тизимга кириш имконияти

Жуда ақлли тизимнинг ўзи экзистенциал таҳдид бўлиши шарт эмас. Бунинг учун унда ҳаракат қилиш имконияти ҳам бўлиши керак.

Илмий адабиётни таҳлил қиладиган, дастур ёзадиган, заифликларни излайдиган, янги воситалар яратадиган ва вазифаларни минглаб нусхалари ўртасида тақсимлайдиган тизим ёпиқ лабораторияда ишласа, хавф чекланган бўлади. Худди шу тизим интернет, булутли ҳисоблаш ресурслари, молиявий инфратузилма, лаборатория жиҳозлари ёки роботларга доимий уланса, вазият сифат жиҳатидан ўзгаради.

Шу сабаб робототехника тараққиёти СИ хавфсизлигига бевосита дахлдор. 2026 йилда Тошкентда Жанубий Кореянинг ROBOTIS компанияси гуманоид роботлар ва уларнинг бутловчи қисмларини ишлаб чиқариш корхонаси қурилишини бошлади. Дастлабки расмий хабарларда тахминан 70 миллион доллар инвестиция ва 2 мингдан ортиқ иш ўрни ҳақида айтилган. Сентябрда Жанубий Корея элчиси лойиҳага қарийб 100 миллион доллар киритилиши ва мингдан ортиқ малакали иш ўрни яратилишини билдирди.

Ўзбекистон учун бу — ижобий саноат янгилиги. Глобал нуқтаи назардан эса у СИ фақат дастурий ҳодиса бўлиб қолмаётганини, аста-секин жисмоний «тана»га эга бўлаётганини кўрсатади.

Реал хавфлар аллақачон мавжуд

СИнинг бугунги энг яқин хавфи роботлар исёни эмас. Овозли дипфейк орқали фирибгарлик, ёлғон контентни оммавий ишлаб чиқариш, киберҳужум, шахсий ҳаёт дахлсизлигининг бузилиши, манипуляцияни автоматлаштириш, зарарли дастур, камситувчи қарор ва муҳим соҳалардаги хатолар аллақачон учрамоқда.

Халқаро СИ хавфсизлиги ҳисоботи фирибгарлик, рухсатсиз интим тасвирлар, болаларга нисбатан жинсий зўравонлик материаллари, стереотип ва ғаразлилик, ишончлилик муаммолари ҳамда шахсий маълумотларнинг бузилишини исботланган хавфлар қаторига киритади. Имкониятлар кенгайган сари СИдан киберҳужумлар ва биологик таҳдидларда фойдаланиш хавфи ҳам ортмоқда.

Шу маънода «СИ қачон хавфли бўлади?» деган саволга жавоб оддий: у аллақачон хавфли. Аммо бу ҳозирча инсониятнинг йўқ бўлиб кетиши дегани эмас.

Инсоният назоратни йўқотиши мумкинми?

Назарий жиҳатдан — ҳа, аммо бундай сценарийни ҳозир илмий жиҳатдан исботлаб бўлмайди.

Назорат йўқолиши учун бир неча шарт бир пайтда юзага келиши лозим: тизим ҳозирги моделлардан анча кучли бўлиши, мустақил ҳаракат қилиши, инсон манфаатларига мос келмайдиган барқарор мақсад ёки хулққа эга бўлиши, ресурсларга кириш имконини қўлга киритиши ва мавжуд ҳимоя воситалари уни тўхтата олмаслиги керак.

Халқаро ҳисобот назоратни йўқотиш сценарийларини ҳозирча гипотетик деб баҳолайди. Айрим экспертлар эҳтимолни паст деб билади, бошқалар бундай ҳолат яқин йилларда юз бериши мумкинлигини айтади. Консенсус йўқ. Эҳтимолни факт сифатида кўрсатиш нотўғри, бироқ эҳтимолий зарар инсоният миқёсида бўлса, ҳатто кичик хавф ҳам жиддий бошқарувни талаб қилади.

Нега энди асрлар эмас, йиллар тилга олинмоқда?

2026 йил сентябрда Anthropic бош директори Дарио Амодеи кескин огоҳлантириш билан чиқди. Унинг айтишича, ҳозирги суръат сақланса, 6–12 ой ичида СИ-агентлар интернетнинг катта қисмини назорат қилиш имконини берадиган даражада мувофиқлашиши ва юзлаб миллиард доллар иқтисодий зарар келтириши мумкин. У буни аниқ башорат эмас, шартли огоҳлантириш сифатида айтди. Асосий шарт — «ҳозирги суръат сақланса».

Технология тўғри чизиқ бўйлаб ривожланмайди. Янги кашфиёт жараённи тезлаштириши, техник тўсиқ, ҳисоблаш қуввати, энергия ёки маълумот тақчиллиги эса секинлаштириши мумкин. Шунинг учун «СИ апокалипсиси қайси йилда бошланади?» деган саволдан кўра «хавф ойнаси» ҳақида гапириш тўғрироқ: у яқинлашаётган бўлиши мумкин, аммо чегаралари номаълум.

Илон Маск ҳам Лос-Анжелесдаги саммитда, агар сунъий интеллект ҳарбий тизимлар устидан назорат ўрнатиб, ядровий ракетани учира олса, оқибат жуда ёмон бўлишидан огоҳлантирди.

АҚШ—Хитой рақобати хавфни оширмоқда

Геосиёсий рақобат хавфсизлик дилеммасини яратади. Агар давлат СИ ривожини секинлаштириш рақибига стратегик устунлик беради деб ҳисобласа, жамоавий манфаатга зид бўлса ҳам тезлашишни оқилона қарор деб қабул қилиши мумкин.

Вашингтонда айнан шу далил янграмоқда. Дональд Трамп АҚШ СИ соҳасидаги технологик устунлигини сақлаши кераклигини таъкидлаб, секинлашиш чақириқларини рад этмоқда. Вакиллар палатаси спикери Майк Жонсон ортиқча тартибга солиш Америка технологик пойгада ортда қолишига олиб келиши мумкинлигини айтган.

Трамп СИни назорат қилиш ёки ундан «ҳимоя тўсиғи» яратиш учун кучли ва юқори IQ’га эга президент зарурлигини, Қўшма Штатларда шундай президент борлигини ҳам таъкидлади.

Натижада СИ даврининг «маҳбуслар дилеммаси» юзага келади: ишлаб чиқувчилар хавфдан огоҳлантиради, аммо рақобатчи давом этишидан қўрқиб, ўзлари ҳам тўхтамайди.

Илм-фан ҳам огоҳлантирмоқда

OpenСИ Навье—Стокс муаммоси ечилганини маълум қилгач, Филдс медалининг 25 нафар лауреати очиқ мурожаат билан чиқди. Улар СИ-компанияларининг математик масалаларни benchmark сифатида ечиш пойгаси математиканинг ўзига зарар етказиши мумкинлигини билдирди. Олимлар фикрича, илмий тараққиёт фақат тўғри жавобдан иборат эмас; тушуниш, янги ғоя, текшириш, муҳокама ва билимни кейинги авлодга етказиш ҳам унинг ажралмас қисмидир.

Агар СИ инсон текшириб ва англаб улгуришидан тез натижа чиқарса, илм-фан «кашфиётлар сероблиги»га дуч келиши мумкин: машина натижани топади, жамият эса уни тушуниш, текшириш ва хавфсиз қўллашга улгурмайди. Бу муаммо математика билангина чекланмайди; кимё, биология, муҳандислик, янги материаллар ва киберхавфсизликка ҳам тааллуқли.

Хавфсизлик кўрсаткичлари ортда қолмоқда

Ҳозирги манзара «инсоният мағлуб бўлмоқда» дейиш учун асос бермайди, аммо ҳимоя механизмлари бир текис ривожланмаётганини кўрсатади.

2026 йилда мустақил SaferСИ трекери 12 етакчи компаниянинг хавфларни бошқариш тизимларини баҳолади. Ўртача натижа қарийб 22 фоиз, энг юқори кўрсаткич 35 фоиз бўлиб, Anthropic’га тегишли эди. Муаллифлар бу рақамлар офат эҳтимолини эмас, оммага очиқ эълон қилинган хавф бошқаруви амалиётини баҳолашини таъкидлади.

Stanford СИ Index 2026 ҳам масъулиятли сунъий интеллект инфратузилмаси ривожланаётгани, аммо технологияларни жорий этиш суръатига ета олмаётганини қайд этди. 2025 йилда фундаментал модель ишлаб чиқувчиларининг шаффофлиги пасайган, ҳужжатлаштирилган СИ-инцидентлар сони эса ўсган. Демак, жорий этиш тезлигининг ўзи мустақил хавф омилига айланмоқда.

Энг эҳтимолли сценарий

Энг реалистик сценарий — машиналарнинг тўсатдан қўзғолони эмас, балки жамиятнинг хулқини ўзи ҳам тўлиқ тушунмайдиган тизимларга босқичма-босқич боғланиб қолишидир.

Аввал СИ кўпроқ код ёзади, кейин уни мустақил синайди, рақамли инфратузилманинг бир қисмини бошқаради ва бошқа СИ тизимлари ишини мувофиқлаштиради. Шу вақтда роботлар ҳам мукаммалроқ жисмоний бошқарув имкониятларига эга бўлади.

Шунда асосий савол «СИ вазифани бажара оладими?» эмас, «У вазифани нотўғри бажарса, биз уни кафолатли тўхтата оламизми?» бўлади.

Бешта зарур чора

Биринчидан, хавфсизлик бир марта олинадиган сертификат эмас, доимий жараён бўлиши керак: ишлаб чиқиш, синов, чекланган ишга тушириш, кузатув, аномалияни аниқлаш, тўхтатиш ва қайта баҳолаш.

Иккинчидан, глобал таъсир кўрсатиши мумкин бўлган тизимларда компаниянинг ўз-ўзини баҳолаши билан чекланмай, мустақил текширув ўтказиш зарур.

Учинчидан, оддий СИ маҳсулотларини мустақил ҳаракат қиладиган, дастур ёзадиган, рақамли тизимларга ҳужум қилиши ёки биологик тадқиқотларни жадаллаштириши мумкин бўлган frontier-моделлардан ажратиш лозим.

Тўртинчидан, АҚШ, Хитой ва бошқа технологик марказлар рақобати шароитида ҳам ишлайдиган халқаро механизм керак.

Бешинчидан, муҳим инфратузилма устидан инсон назорати сақланиши шарт. Потенциал зарар қанчалик катта бўлса, мустақил тасдиқсиз тизимга топшириладиган қарорлар шунчалик кам бўлиши керак.

Хавф қачон юзага келади?

Энг холис жавоб шу: айрим хавфлар аллақачон мавжуд; оғирроқ таҳдидлар яқин йилларда пайдо бўлиши мумкин; СИ инсоният йўқ бўлиб кетишига сабаб бўладиган сценарийнинг эҳтимоли эса номаълум ва уни ҳозир зарур аниқликда ҳисоблаб бўлмайди.

Бу ваҳима учун ҳам, бепарволик учун ҳам асос эмас. GPT-4o воқеаси нисбатан кичик хулқ ўзгариши ҳам оммавий ишга туширишдан кейингина билиниши мумкинлигини кўрсатди. Gemini кейси модел кутилмаганда тизимли муаммоли натижа беришини намойиш этди. Математикадаги ютуқлар атрофидаги баҳс СИ меҳнат бозоринигина эмас, билим ишлаб чиқариш қоидаларини ҳам ўзгартираётганини кўрсатмоқда. Автоном агентлар хатолар нархини оширмоқда, СИ ва роботлар яқинлашуви эса дастурий интеллектга жисмоний имконият бермоқда.

Шу боис XXI асрнинг асосий саволи «СИ инсондан ақллироқ бўладими?» эмас. У алоҳида вазифаларда тобора кўпроқ инсондан устун келиши аниқ.

Асосий савол бошқа: инсоният ўзи яратган тизимларни тушуниш, чеклаш ва зарур бўлганда ўчириш қобилиятини сақлаб қола оладими?

Агар жавоб «ҳа» бўлса, СИ тиббиёт ва илм-фандан саноат ва таълимгача инсон имкониятларини кенгайтирувчи энг йирик технологик воситалардан бирига айланади. Агар машиналар имконияти жамиятнинг улардан фойдаланиш қоидаларини белгилаш қобилиятидан тезроқ ўсса, хавф бир драматик кунда эмас, алоҳида қаралганда оқилона туюлган минглаб кичик қарорлар орқали тўпланади.

Хавфли палла машина «инсониятни йўқ қилишга қарор қилган» пайтда эмас, одамлар ўзлари тўлиқ назорат қила олмайдиган тизимдан воз кечишга энди тайёр эмаслигини ёки воз кеча олмай қолганини англаган пайтда юзага келиши мумкин.

Абулфайз Сайидасқаров