Ayrim ilg‘or AI modellarini jailbreak qilish qo‘rqinchli darajada oson
Yangi vosita to‘rtta yirik ilg‘or AI kompaniyasining modellaridagi himoyalarni chetlab o‘tishga urinayotganini kuzatdim.
Yaqinda dunyodagi eng kuchli sun’iy intellekt modellarining ayrimlarini jailbreak qilganda nimalar yuz berishini kuzatish imkoniga ega bo‘ldim.
Xavotir olmang — bu AI manipulyatsiyasi hech kimni buzib kirish yoki yadro bombasi yasash uchun ishlatilmadi. Men shunchaki ayrim ilg‘or modellarning xavfsizlik to‘siqlaridan voz kechishga qanchalik zaif ekanini bevosita ko‘rdim.
Kaliforniyada joylashgan, AI xavfsizligi bilan shug‘ullanuvchi notijorat tashkilot FAR.AI muammoli promptlar to‘plamini qabul qilib, ishlaydigan jailbreak usullarini aniqlashga urinish uchun ularning mingdan ortiq turli variantlarini yaratadigan vosita tuzdi. Men ayrim modellar xayoliy gidroelektr to‘g‘oniga kiberhujum uyushtirish bo‘yicha batafsil reja tuzganini va boshqa shunga o‘xshash holatlarni ko‘rdim. Ko‘pincha buning uchun o‘nlab promptlarni sinab ko‘rish talab etildi, modellar esa ularning ko‘pini darhol rad etdi.
Yangi hisobot e’lon qilinishidan oldin FAR.AI bilan suhbatlashdim. Unda tashkilot AQShdagi to‘rtta mashhur kompaniya modellarining xavfsizlik to‘siqlarini sinovdan o‘tkazgan: Anthropic’ning Claude Opus 4.8 va Fable 5 modellari; OpenAI’ning GPT 5.5 va 5.6 modellari; Google’ning Gemini 3.1 Pro modeli; shuningdek, Elon Musk yaqinda birlashtirgan SpaceXAI kompaniyasining Grok 4.3 va 4.5 modellari. Vosita modellarni dasturiy ta’minotdagi zaifliklardan foydalanish vositalarini yaratish yoki kimyoviy va biologik qurollarni ishlab chiqish tafsilotlarini taqdim etish kabi ehtimoliy zararli ishlarni bajarishga aldab undash uchun mo‘ljallangan promptlarni avtomatik yaratdi.
Hisobotga ko‘ra, jailbreaklarga eng zaif model Grok bo‘lgan — undan 448 ta jailbreak topilgan. Keyingi o‘rinda 249 ta jailbreak aniqlangan Gemini turibdi. Claude, Fable va GPT esa hujumlarga bardosh berdi. Biroq FAR.AI va boshqa ekspertlarning aytishicha, bu modellar yanada murakkab jailbreaklarga, ya’ni model bilan murakkabroq usullarda muloqot qilishni talab etadigan hujumlarga mutlaqo immunitetga ega degani emas.
Hisobotda modellarni turli jailbreaklarni avtomatik yaratadigan boshqa AI modeli yordamida noto‘g‘ri ish tutishga undash qancha turishi ham hisoblab chiqildi. Umuman olganda, natijalar juda arzon: Grok’ni jailbreak qilish $58, Gemini’ni jailbreak qilish esa $278 turadi.
“Hozirgi AI modellari restoranlarga qaraganda ham kamroq tartibga solingan”, deydi FAR.AI bosh direktori va AI xavfsizligi hamda alignment bo‘yicha mutaxassis Adam Gleave.
Gleave bu natijalar tashqaridan joriy etiladigan standartlar va qoidalar zarurligini ko‘rsatishini aytadi. “AI kompaniyalari o‘zini o‘zi tartibga sola oladi, ixtiyoriy majburiyatlarga tayanish kerak, degan gaplar bema’nilik”, deydi u.
Biroq Gleave natijalar modellar xavfsizligini tizimli ravishda sinovdan o‘tkazish mumkinligini ham ko‘rsatadi, deb hisoblaydi. “Buning ijobiy tomoni ham bor”, deydi u. “Himoya va xavfsizlik chindan ham mumkin.”
Google DeepMind’ning AGI xavfsizligi va alignment bo‘yicha direktori Rohin Shah hisobot natijalari “Gemini’ning xavfsizligi va himoyalanganligini har tomonlama baholash sifatida talqin qilinmasligi kerak”, deydi, chunki barcha jailbreaklar bir xil darajada jiddiy emas.
“Biz xavfsizlik choralarimizni yaxshilash ustida doimiy ishlayapmiz”, deydi Shah. “Biz jiddiy suiiste’mol xavflari bo‘yicha keng ko‘lamli red teaming va baholashlar o‘tkazamiz hamda ishlab chiqish va joriy etishning barcha bosqichlarida ko‘p qatlamli himoyani qo‘llaymiz.”
“Bu natijalar xavfsizlik choralarimizga doimiy ravishda kiritib kelayotgan sarmoyamizni aks ettiradi”, deydi Anthropic vakili Michael Aciman WIRED’ga. “Hujumlar tobora murakkablashar ekan, biz xavfsizlik tizimlarimizni rivojlantirishda davom etamiz.”