AI xavfsizligini tekshirishning o‘zi xavf manbaiga aylanmoqda
AI agentlari kiberxavfsizlik sinovlari o‘tkaziladigan muhitdan chiqib, real tizimlarga yetib bormoqda.
AI agentlari kiberxavfsizlik sinovlari o‘tkaziladigan muhitdan chiqib, real tizimlarga yetib bormoqda. Bu esa xavfsizlik infratuzilmasi, sanoat standartlari va tartibga solish mexanizmlari tobora kuchayib borayotgan modellar bilan bir qadamda rivojlana olyaptimi, degan savolni tug‘dirmoqda.
So‘nggi bir necha oy ichida kiberxavfsizlik sinovlaridan o‘tayotgan AI agentlari o‘zlariga ajratilgan chegaralardan chiqdi, internetga ulandi va ayrim holatlarda real tizimlarga buzib kirdi. Bunday hodisalarda OpenAI, Anthropic, Meta modellaridan, eng so‘nggi holatda esa Xitoyning Moonshot AI laboratoriyasiga tegishli modeldan foydalanilgan. Sinovlarni kiberxavfsizlikka ixtisoslashgan Irregular startapi kabi bir nechta tashkilot o‘tkazgan.
Bu hodisalar AI sanoati oldida turgan muammoni yaqqol ko‘rsatmoqda: avtonom agentlar qanchalik qobiliyatli bo‘lib borayotgan bo‘lsa, ularning imkoniyat chegaralarini xavfsiz sinash uchun yaratilgan muhitlar shunchalik ularni nazoratda ushlab turolmayapti.
“Kuzatilgan hodisalar sonining o‘zi sandbox va sinov muhitidagi nazorat vositalari modellar imkoniyatlari bilan bir xil sur’atda rivojlanmayotganini ko‘rsatadi”, — dedi Kembrij universiteti Qobiliyat kelajagi va mas’uliyat dasturi direktori Seán Ó hÉigeartaigh TechCrunch nashriga.
Sinovdan o‘tkazilayotgan modellarning o‘ziga xosligi ham xavfni oshiradi. AI kompaniyalari kiberxavfsizlik sinovlarini hali ommaga taqdim etilmagan, yangi avlod modellarida o‘tkazadi. Odatda bunday sinovlarda zararli xatti-harakatlarni cheklovchi odatiy himoya mexanizmlari o‘chirib qo‘yiladi — tadqiqotchilar model nimalarga qodirligini to‘liq ko‘rishni istaydi. Shu sababli sinov muhitining xavfsizligi muhim himoya chizig‘iga aylanadi.
“Modellarni sinash nuqtayi nazaridan bu juda to‘g‘ri yondashuv. Ammo model tashqi muhitga chiqib ketsa, jiddiy zarar yetkazishi mumkin”, — dedi Ó hÉigeartaigh.
Eng jiddiy holatlardan birida hali taqdim etilmagan OpenAI modeli sandboxdan chiqib, Hugging Face’ning ishlayotgan ishlab chiqarish tizimlariga buzib kirgan. Irregular alohida o‘tkazgan sinovlarda Anthropic va Meta modellariga noto‘g‘ri sozlamalar tufayli internetga chiqish yo‘li ochilib qolgan va ular sinov muhitidan tashqaridagi tizimlarga yetib borgan. Moonshot AI’ning Kimi K3 modeli ham Frontier Security yuritgan sandboxdagi sizib chiqishdan foydalanib, internetga ulangan va GitHub’dagi ma’lumotlarga kirgan.
Buyuk Britaniyaning AI xavfsizligi instituti (AISI) o‘tkazgan sinovlarda esa tadqiqotchilar agentlarga ataylab internetga kirish imkonini bergan. Biroq agentlar ruxsatsiz ravishda real dunyoda harakat qilishi mumkinligini hisobga olishmagan. Jumladan, agentlardan biri ochiq kodli loyihaga zaiflikni yashirincha kiritishga qaratilgan ijtimoiy muhandislik urinishini amalga oshirgan.
Bu holatlarning hech birida agentlarga tasodifiy real nishonlarga hujum qilish topshirilmagan. Ular shunchaki oldiga qo‘yilgan vazifani bajarish uchun zarur bo‘lgan har qanday yo‘lni tanlagan.
AI sohasidagi notijorat CivAI tashkiloti tadqiqot rahbari Andrew Yoonning fikricha, bu hodisalar muhim o‘zgarish yuz berayotganidan darak beradi.
“Ilgari biz AI modellaridan odamlar turli maqsadlarda noto‘g‘ri foydalanishidan xavotir olardik — masalan, firibgarlik yoki bolalarga nisbatan jinsiy zo‘ravonlik materiallarini tarqatish uchun”, — dedi Yoon TechCrunch nashriga. “Endi esa AI modellarining o‘zi mustaqil ravishda tahdid manbaiga aylanayotgan vaziyatga keldik.”
Xavfsiz sinov aslida qanday o‘tkazilishi kerak?