Hugging Face buzilishida OpenAI xakeri shovqinli va tezkor edi — ammo to‘xtatib bo‘lmaydigan emas
Kiberxavfsizlik ekspertlari TechCrunch’ga OpenAI’ning Hugging Face’ga qarshi hujumidan olinadigan eng muhim saboqlardan biri AI’ga emas, balki an’anaviy…
Shu oy boshida AI ma’lumotlar to‘plami platformasi Hugging Face to‘liq avtonom, AI asosidagi kiberhujum qurboni bo‘lganini e’lon qilib, butun dunyoni hayratga soldi. Oradan bir necha kun o‘tib, voqea yana keskin burilish oldi: OpenAI buzib kirgan xaker uning AI modellaridan biri bo‘lganini tan oldi. Ushbu model benchmarkni chetlab o‘tishga urinib, test muhitidan chiqib, Hugging Face’ning himoyalangan tizimlariga kirgan.
Bu hatto nazoratdan chiqib ketgan AI modellaridan ozgina bo‘lsa ham xavotirda bo‘lgan har qanday kishi uchun tashvishli hodisa. Voqeadan keyingi kunlar esa AI modellar hujumlarni shunchalik kuchli amalga oshiradiki, ulardan faqat boshqa AI modellarigina himoya qila oladi, degan yangi kiberxavfsizlik paradigmasi haqidagi bashoratlar bilan o‘tdi.
Ammo asosli xavotirga qaramay, paradigma ko‘ringanidek keskin o‘zgarmagan bo‘lishi mumkin. TechCrunch’ga gapirgan ekspertlar OpenAI agenti ayrim istisnolar bilan asosan inson kabi ishlaganini va an’anaviy himoya usullari to‘g‘ri joriy etilganida, hujumni to‘xtatish mumkin bo‘lganini ta’kidladi. Qisqasi, bunday hujumdan himoyalanish vositalari bizda allaqachon mavjud bo‘lishi mumkin, faqat ulardan to‘g‘ri foydalanmayapmiz.
Hugging Face hodisa haqidagi hisobotida bu fikrning bir qismini bildirgan: hujumda foydalanilgan zaifliklar “tanish” bo‘lgan va “malakali inson hujumchisi ham xuddi shu kamchiliklarni topib, ulardan foydalanishi mumkin edi”.
Doimiy ravishda xakerlik qiluvchi AI agentlarini ishlab chiquvchi Pensar startapining R&D rahbari Kyle Ryan hamda AI asosidagi zaiflik izlovchilarni yaratuvchi RunSybil startapining hammuassisi va CTO’si Vlad Ionescu TechCrunch’ga hujumda qo‘llangan usullar inson yoki insonlardan iborat red-team guruhi ishlatadigan usullar bilan bir xil bo‘lganini aytib, bu fikrga qo‘shildi. Ya’ni gap tizim egasi bo‘lgan kompaniyaga himoyani yaxshilashda yordam berish uchun unga hujum qilish topshirilgan xakerlar haqida bormoqda.
Hujumning insonga xos bo‘lmagan jihati uning tezligi, ko‘lami va tinimsizligi edi. Hugging Face tushuntirganidek, OpenAI agenti to‘rt yarim kun davomida 17,600 ta amal bajargan: u tizimga buzib kirdi, razvedka olib bordi, parollar va kodlarni o‘g‘irladi hamda kompaniya infratuzilmasi bo‘ylab harakatlandi.
“Eng ta’sirli jihati — avtonomlik va chidamlilik,” dedi Ryan. “Shunday uzoq davom etadigan, vaziyatga moslasha oladigan faoliyat men uchun eng ko‘p ajralib turadi.”
Biz bilan bog‘laning
OpenAI’ning Hugging Face’ga qarshi hujumi yoki boshqa AI asosidagi kiberhujumlar haqida qo‘shimcha ma’lumotingiz bormi? Sizdan xabar olishni istaymiz. Ishga aloqador bo‘lmagan qurilma va tarmoqdan foydalanib, Lorenzo Franceschi-Bicchierai bilan Signal orqali +1 917 257 1382 raqamida, Telegram va Keybase’da @lorenzofb manzili orqali yoki elektron pochta orqali xavfsiz bog‘lanishingiz mumkin.
Boshqa tomondan, bir necha kun davomida bajarilgan amallar soni nihoyatda ko‘p bo‘lgani sababli, Ryan ta’riflaganidek, OpenAI agenti “aql bovar qilmas darajada shovqinli” edi. Inson xaker yashirinroq harakat qilishi mumkin bo‘lgan bo‘lsa, agent juda ko‘p shovqin ko‘tardi. Bu esa Hugging Face himoyasini tezroq ishga tushirishi, ideal holatda esa inson aralashib, hujumni to‘xtatishi kerak edi.
“Men buni nihoyatda yaxshi hujumdan ko‘ra, himoyadagi muvaffaqiyatsizlik deb atagan bo‘lardim. Hugging Face vositalari aslida faoliyatni hujum signali sifatida birlashtirdi, ammo muhimlik darajasini oshirmadi va navbatchi jamoaga xabar bermadi, bu esa ularga vaqt yo‘qotishiga sabab bo‘ldi,” deb tushuntirdi Ryan. “Shundan keyin ham jiddiylikni anglash va javob qaytarish insonlarning zimmasida qoldi.”
Kiberxavfsizlik kompaniyasi Dvuln asoschisi Jamieson O’Reilly ham X’dagi postida Hugging Face hisobotini tahlil qilib, xuddi shunday xulosaga keldi.