Nega boshqa ko‘plab holatlar emas, aynan shu AI qiyomatiga oid chiqish internetni larzaga soldi?
Tadqiqotchining AI insoniyat yo‘q bo‘lib ketishi xavfi haqidagi iste’fo posti 100 milliondan ortiq marta ko‘rildi.
Tadqiqotchining AI insoniyat yo‘q bo‘lib ketishi xavfi haqidagi iste’fo posti 100 milliondan ortiq marta ko‘rildi. Bu holat o‘zimiz va AI haqidagi qarashlarimiz to‘g‘risida muhim narsani anglatadi.
Jacob Coxon shu hafta Anthropic kompaniyasidan iste’foga chiqishini e’lon qilar ekan, kompaniya hamda uning raqibi OpenAI superintellekt sari ketayotgan poygada “hayotimizni xavf ostiga qo‘yayotgani”ni aytdi. Aslida bu fikr 2023-yildan beri undan ancha yuqori lavozimdagi va ko‘proq ilmiy unvonga ega mutaxassislar tomonidan kamida to‘rt marta, turli shakllarda bildirilgan.
Bu safar farq fikrning o‘zida emasga o‘xshaydi. Farq — uning qamrovi va qaysi siyosiy muhitga kelib tushganida. Negadir AI sababli yuz berishi mumkin bo‘lgan qiyomat haqidagi qarashlar uchun “Overton oynasi” hozir har qachongidan ham kengroq ochilgan. Ommaviy fikr esa buni baland ovozda ifodalamoqda.
Coxonning posti bir necha kun ichida 100 milliondan ortiq ko‘rildi. Taqqoslash uchun, Jan Leikening 2024-yil mayida OpenAI’dan ketgani haqidagi deyarli shunday mazmundagi posti 6,1 million marta ko‘rilgan edi. Leike o‘shanda “xavfsizlik madaniyati va jarayonlari ko‘z-ko‘z qilinadigan mahsulotlar ortidan ikkinchi o‘ringa surildi”, deb yozgandi. Mrinank Sharmaning 2026-yil fevralida Anthropic’ning himoya choralariga mas’ul jamoasidan ketayotib yozgan, “dunyo xavf ostida” deya ogohlantirgan posti esa 48 soatda qariyb 1 million marta ko‘rildi va 5 mingga yaqin qayta ulashishga ega bo‘ldi.
“AI’ning cho‘qintirgan otasi” va Nobel mukofoti laureati Geoffrey Hinton xavflar haqida erkin gapira olish uchun 2023-yil mayida Google’dan ketdi. U The New York Times nashriga bergan intervyusida ilgari umumiy AI paydo bo‘lishiga hali o‘nlab yillar bor deb o‘ylaganini, endi esa bu muddat haqidagi bahosini qisqartirganini aytdi. Hinton AI sababli falokat yuz berishi ehtimolini 10–20 foiz deb baholadi.
Albatta, OpenAI hammuassisi va bosh olimi Ilya Sutskever ham 2024-yil mayida iste’foga chiqdi. Bunga undan oldingi noyabrda Sam Altman lavozimidan chetlatilib, keyin qayta tiklangani ortidan xavfsizlikka ustuvorlik berish masalasidagi kelishmovchiliklar sabab bo‘lgan edi. Bularning barchasi katta voqealar bo‘lib, yillar davomida muhim misol sifatida tilga olindi. Ammo ularning ta’siri, ochig‘ini aytganda, Coxonnikidek bo‘lmadi.
Yana bir e’tiborga molik jamoaviy misol bor. 2026-yil iyulida ilg‘or AI kompaniyalarida ishlovchi 1 100 dan ortiq xodim, jumladan Anthropic hammuassislari va OpenAI bosh olimi, AQSh hukumatidan AI rivojini “ataylab sekinlashtirish” vositalarini qo‘llab-quvvatlashni so‘rab ochiq maktub imzoladi. Bunga OpenAI’ning ikki modeli sandbox sinov muhitidan chiqib ketgani haqidagi xabarlar sabab bo‘lgandi.
Demak, xolis hisob-kitob qiladigan bo‘lsak, bu 2023-yildan beri ilg‘or laboratoriyalardan yuz bergan xavfsizlik bilan bog‘liq kamida beshinchi yirik iste’fo yoki ommaviy bayonotdir. Unda nega aynan bu safar boshqacha bo‘ldi?
Javob nimasi bilan boshqacha edi?
Coxon bilan bog‘liq voqeada avvalgi holatlardan farq qiladigan, shunchaki ko‘rishlar soniga aloqador bo‘lmagan bir necha jihat bor. Anthropic’ning Alignment Science jamoasiga rahbarlik qiluvchi Evan Hubinger bu fikrni omma oldida qo‘llab-quvvatladi. Uning aytishicha, u superintellektni nazorat qila olmaslik natijasida kelasi o‘n yil ichida insoniyat yo‘q bo‘lib ketishi ehtimolini shaxsan 10 foizdan yuqori deb baholaydi. Shuningdek, Anthropic’da superintellekt tizimlarini nazorat qilish bo‘yicha aniq reja yo‘qligini ta’kidladi.
Anthropic’da xavfsizlik bo‘yicha tadqiqot olib boruvchi Samuel Marks va Joe Benton ham bu bayonotdagi fikrlarni tasdiqladi. Benton uni “umuman olganda, aniq” deb atadi. Bu gaplarning barchasi X platformasida aytildi. Bu esa Twitter haqiqiy hayotning o‘zi hisoblanadimi yoki yo‘qmi, degan eski savolni yana kun tartibiga chiqardi.
Siyosiy munosabat esa oldingi to‘rtta holatning birortasida kuzatilmagan darajada tez va ikki partiya tomonidan birdek bildirildi. Taxminan 48 soat ichida senator Ted Cruz bu xavfni “juda ham dahshatli” deb atadi. Senator Bernie Sanders AI rivojini to‘xtatib turishga qaratilgan qonun loyihasini kiritishga harakat qilmoqda. Buyuk Britaniyada esa Moliya vazirligining sobiq vaziri superintellekt bo‘yicha ko‘p davlatli shartnoma tuzishga chaqirdi, leyborist deputat esa “nazoratdan chiqib ketgan” modellarni ishlab chiqishni taqiqlashni taklif qildi.