OpenAI’ning xakerlikdagi mag‘lubiyati inson xatosi bo‘lgan
Agar generativ AI giganti keng tanilgan xavfsizlikning eng yaxshi amaliyotlariga amal qilganida, uning AI agenti ochiq internetga chiqib, bir nechta…
Nazoratdan chiqqan AI xaker-agentlar davri boshlandi — ammo bunday bo‘lishi shart emas edi.
Shu oy boshida OpenAI agenti Hugging Face platformasini buzib kirganidan keyin, ikki kompaniya bu hafta xakerlik hujumi avval o‘ylanganidan ko‘ra ancha keng ko‘lamli bo‘lganini ma’lum qildi. Hujum doirasida Hugging Face’ga qarshi amalga oshirilgan operatsiya davomida bir nechta uchinchi tomon akkauntlari va xizmatlariga ham buzib kirilgan. Ushbu hodisa AI imkoniyatlarining rivojlanishi hujumkor xakerlik va raqamli mudofaaga qanday ta’sir ko‘rsatayotgani haqidagi kengroq munozaralar fonida kiberxavfsizlik hamjamiyatida katta aks-sado berdi. Biroq ko‘proq ma’lumotlar paydo bo‘lgani sari ko‘plab tadqiqotchilar bu voqea AI’ning navbatdagi yangi chegarasini ochib berishdan ko‘ra, AI davrida har qachongidan ham muhimroq bo‘lib qolgan, uzoq vaqtdan beri mavjud kiberxavfsizlik muammolarini shunchaki ko‘rsatib bergan degan xulosaga kelmoqda.
“Odamlar chindan ham juda o‘ylamasdan ish tutishyapti. Bunday ssenariy haqida odamlar qanchalik kam o‘ylagani hayratlanarli,” deydi bulut xavfsizligi kompaniyasi Edera’ning hammuassisi va bosh texnologiya direktori Alex Zenla. “Men barcha AI tizimlari va AI tegadigan har qanday narsani to‘liq ishonchsiz deb hisoblayman — bunda muammo yo‘q, shunchaki tizimlarni shunga moslab qurish kerak. Bu vaziyat ham aynan shuni isbotlaydi. OpenAI bu masalaga ko‘proq shubha va ehtiyotkorlik bilan yondashmagani biroz mas’uliyatsizlikdek ko‘rinadi.”
OpenAI ushbu maqola e’lon qilinishidan oldin izoh berishdan bosh tortdi.
Kompaniya Hugging Face’ga qilingan xakerlik hujumi haqidagi dastlabki bayonotida nazoratdan chiqib, bir necha kun davomida ochiq internetga kirib qolgan ikki modeldan biri hech qachon chiqarilishi mo‘ljallanmagan eksperimental prototip bo‘lganini aytdi. OpenAI, shuningdek, bu holat qisman sinov maqsadida ikkala modelda ham “ishga tushirish xavfsizlik choralari ataylab yoqilmagani” sabab yuz berganini qayd etdi. “Bu hodisa modelimizning moslashuvini, baholash paytidagi kiberhimoyani va ichki sinovlar vaqtida monitoringni yanada kuchaytirish zarurligini ko‘rsatadi,” deb yozdi kompaniya.
OpenAI bu hafta e’lon qilgan yangilanishida Hugging Face’ga buzib kirilganidan so‘ng, “chiqarilmagan modelni tadqiqot uchun foydalanishdan o‘chirganini, shifrlaganini va cheklaganini” ham ma’lum qildi. Har qanday kompaniyaning xavfsizlik holatini yaxshilash uchun doim imkoniyat bo‘lsa-da, agar OpenAI’ning mavjud himoya choralari amalda bo‘lganida, ularning o‘zi bu hodisaning oldini olishi yoki uning ko‘lamini kamaytirishi mumkin edi.
“Haqiqiy xavfni oddiygina tahlil qilsangiz, javob ham juda oddiy bo‘ladi,” deydi uzoq yillik xavfsizlik va muvofiqlik bo‘yicha konsultant Davi Ottenheimer. “OpenAI’ning xatolari juda jo‘n edi.”
Bir nechta manba WIRED’ga OpenAI’ning modellari “ishonchli nolinchi ishonch” va “mudofaani chuqurlashtirish” kabi asosiy xavfsizlikning eng yaxshi amaliyotlarini joriy etishdagi kamchiliklar sabab ham nazoratdan chiqqandek ko‘ringanini ta’kidladi. Bunday yondashuvlar raqamli tizimlarni himoya qatlamlari va ehtiyot mexanizmlari bilan ta’minlab, biror narsa noto‘g‘ri ketganida zararni kamaytiradi. Mukammal xavfsizlik mavjud bo‘lmasa-da, tadqiqotchilar va amaliyotchilar so‘nggi yigirma yil davomida o‘zini ishonchli ko‘rsatgan, biroq amalga oshirish uchun vaqt va mablag‘ni muntazam sarflashni talab qiladigan himoya strategiyalarini ishlab chiqib, targ‘ib qilib kelishdi.
Kichik bizneslar, mablag‘i yetarli bo‘lmagan jamoatchilik manfaatlarini ko‘zlovchi guruhlar yoki endigina shakllanayotgan tashkilotlar uchun asosiy xavfsizlikka ustuvor investitsiya kiritishga zarur resurslarni ajratish qiyin bo‘lishi mumkin. Biroq qiymati $850 billion deb baholanayotgan va texnologiya sanoatining turli yo‘nalishlaridan tajribali mutaxassislarni ishga olgan OpenAI xavfsizlikning eng yaxshi amaliyotlarini joriy etishda noqulay ahvolda emas.
Kompaniya modellarining xakerlik hujumlari uyushtirishiga to‘sqinlik qilishi mumkin bo‘lgan asosiy himoya choralari sanoatda yaxshi ma’lum. Chorshanba kuni Chrome’dagi zaifliklarni aniqlash haqida gapirar ekan, OpenAI modellarining qo‘shimcha buzib kirishlari haqidagi xabarlar paydo bo‘lishidan oldin, Chrome muhandislik bo‘limi direktori Doug Turner WIRED’ga AI yordamida xatolarni izlash va tuzatish jarayoni “jiddiy himoya to‘siqlarini ko‘zda tutgan holda” qurilishi kerakligini aytdi.
Chrome’ni baholaydigan ichki AI xizmatlari haqida Turner shunday deydi: “Hammasi konteyner ichida ishlaydi, barchasi internetdan ajratilgan. Xatolarni kuzatish tizimi uchun tashqariga yo‘naltirilgan har qanday tarmoq faolligi qat’iy tartibga solingan, biz esa shubhali faollikni kuzatib boramiz. Bunday ishni bajarayotganda bu bo‘lishi shart, chunki modellar tizim buyruqlarini bajara olmasligi yoki sandbox’dan tashqariga chiqish kanalini o‘rnata olmasligiga ishonch hosil qilishni istaymiz. Boshqalar ham shunga o‘xshash yondashuvni qo‘llashiga umid qilamiz.”
OpenAI seshanba kuni yangilangan blog postida “tashqi maslahatchilar bilan birgalikda batafsil tekshiruv o‘tkazayotganini” va hodisaning texnik tahlilini “kelgusi haftalarda” e’lon qilishini aytdi. Kompaniya yana shunday qo‘shimcha qildi: “Borgan sari qobiliyatli AI tizimlaridan kelib chiqadigan xatarlarni aniqlash va ularga tayyorgarlik ko‘rish bo‘yicha mas’uliyatimizga jiddiy qaraymiz.”