Men AI agentga barcha gadjetlarimni buzib kirishni topshirdim — yana takrorlagan bo‘lardim
Kuchli, ochiq kodli modeldagi xavfsizlik cheklovlarini olib tashlaganimdan so‘ng, u uyimdagi qurilmalardan zaif joylarni topdi va kompyuterga buzib kirdi.
Kuchli, ochiq kodli modeldagi xavfsizlik cheklovlarini olib tashlaganimdan so‘ng, u uyimdagi qurilmalardan zaif joylarni topdi va kompyuterga buzib kirdi. Biroq shu bilan birga, barcha tizimlarni ancha xavfsiz qilish yo‘llarini ham ko‘rsatdi.
Sun’iy intellekt haqidagi yangiliklar byulleteni muallifi sifatida bu texnologiyaning eng ilg‘or imkoniyatlarini shaxsan sinab ko‘rishni o‘z burchim deb bilaman. Bu hafta esa navbat AI agentlari keltirib chiqarishi mumkin bo‘lgan tartibsizlikni o‘z uyimda sinashga keldi.
So‘nggi oylarda ilg‘or AI modellari kiberxavfsizlik bo‘yicha ancha kuchli ko‘nikmalarga ega bo‘lgani sizga ma’lum bo‘lsa kerak. Ular katta hajmdagi kod bazalaridan zero-day zaifliklarni topishi va kompyuterlarni zaif joylar bo‘yicha juda tez tekshirishi mumkin. Vaziyatni yanada qiziqarli qiladigan jihat shundaki, kiberxavfsizlik agentlari ba’zan nazoratdan chiqib, o‘zaro til biriktiradi va ustunlikka ega bo‘lish uchun tashqi tizimlarga buzib kirishga urinadi.
Buni yaqindan ko‘rish uchun shunday agentlardan birini uy tarmog‘imga qo‘yib yuborishga qaror qildim. Bir necha kun davomida u uyimdagi turli qurilmalardan zaif joylarni topganini, kompyuterga buzib kirganini va men “vibe coding” usulida yaratgan bir nechta loyihalar — ajablanarli emas, albatta — xatolarga to‘la ekanini ko‘rsatganini kuzatdim. (Xotinim nima qilayotganimni bilardi. Men har safar yangi zaiflik topganimni faxr bilan e’lon qilganimda, u ko‘zini qisib qo‘yardi.)
“Will, — deb o‘ylayotgan bo‘lishingiz mumkin, — cheklovsiz, hamma narsaga qodir kiberxavfsizlik agentiga uy tarmog‘ingizga kirish huquqini berish mutlaqo tentaklik-ku”. Va siz haq bo‘lasiz! Shunga qaramay, oldimizda turgan kiberxavfsizlikdagi xavf-xatarlarni tushunishning yaxshi usullaridan biri — ularning ichiga bir bor kirib ko‘rish, deb hisoblayman.
Oxir-oqibat, tajriba menga ko‘p narsani ko‘rsatdi. Qizig‘i, u biroz xotirjam ham qildi. Uy tarmog‘im AI orqali uyushtiriladigan hujumlarga qanchalik zaif ekanini ko‘rdim, ammo barcha tizimlarni ancha xavfsiz qilish bo‘yicha tavsiyalar ham oldim. Xulosa shuki, AI hujumlariga qarshi kurashishning eng yaxshi yo‘li o‘zingizga tegishli AI xakerga ega bo‘lish bo‘lishi mumkin.
Cheklovlardan xoli model
Bu tajriba g‘oyasi menga odatdagi xavfsizlik cheklovlari olib tashlangan kuchli AI modellaridan foydalanish imkonini beradigan Abliteration AI startapini topganimdan keyin keldi.
Aksariyat ommaviy AI modellari ayrim so‘rovlarga javob berishdan bosh tortadi. Ular kompyuter tizimlaridagi zaifliklarni topish va ulardan foydalanishga ham yordam bermaydi. Biroq ochiq vaznli modelning ichki parametrlaridagi ayrim naqshlarni topib, o‘zgartirish orqali bu cheklovlarni olib tashlash mumkin. Rad javoblariga olib keladigan naqshlarni “abliteration” deb ataladigan usul yordamida sozlashadi.
AI xavfsizlik to‘siqlarini olib tashlash xavfli tuyulishi mumkin, ammo bu kam uchraydigan holat emas. Akademik tadqiqotchilar AI aslida qanday ishlashini yaxshiroq tushunish uchun bunday “de-aligned” modellardan foydalanadi. Kiberxavfsizlik kompaniyalari esa dasturiy ta’minot va tizimlarni zaifliklar bo‘yicha tekshiradi. Texnik jihatdan Anthropic kompaniyasining Mythos va OpenAI kompaniyasining Astra tizimlari ham shunga o‘xshash ishlaydi: ular odatiy kiberxavfsizlik cheklovlariga ega bo‘lmagan an’anaviy modellardir, hozircha ulardan faqat ishonchli mijozlar foydalana oladi. (Kompaniyalar kod va tizimlardagi muammolarni tekshirish uchun cheklovlari o‘rtacha darajada bo‘lgan modellardan kengroq foydalanish imkonini ham beradi.)
Abliteration AI to‘liq “de-aligned” qilingan bir nechta modelni taklif etadi. Ularning eng kuchlisi — Z.ai kompaniyasining eng yangi agentik dasturlash modeli GLM 5.3 asosida yaratilgan versiya. Bu sizga Mythos va Astra’ga o‘xshash kiberxavfsizlik imkoniyatlarini bir necha pitsaning narxiga qo‘lga kiritish imkonini beradi.
Abliteration AI bosh direktori Devon cheklovlardan xoli modellarni keng foydalanishga chiqarishni aqlli mudofaa chorasi, deb hisoblaydi. Uning fikricha, bu vositalar yaxshi niyatli mutaxassislarga tizimlarni zaifliklar bo‘yicha tekshirish, xakerlar, firibgarlar va, ha, nazoratdan chiqqan AI agentlarining xatti-harakatlarini taqlid qilish orqali yomon niyatli tomonlarga qarshi kurashishda yordam beradi. (Devon mendan faqat ismini ishlatishimni so‘radi, chunki uning asosiy ish joyidagilar bu yon loyihasi haqida bilmaydi.)