OpenAI Hugging Face’ga qilingan hujumni misli ko‘rilmagan deb atadi. Ammo biz bunday holatga avval ham duch kelganmiz.
Bu maqola dastlab AI haqidagi haftalik axborot byulletenimiz The Algorithm’da chop etilgan.
Men vahima qo‘zg‘atuvchi odam emasman. Aksincha, yillar davomida AI haqidagi qo‘rqituvchi xabarlarga qarshi chiqib kelganman. Shunday bo‘lsa-da, bu hodisa chegaradan oshib ketdi. Menimcha, bu texnologiyani yaratib, sinovdan o‘tkazayotgan odamlar o‘zlari nima qilayotganini to‘liq anglamayotganining hozirgacha eng yaqqol misolidir. OpenAI buni oldindan ko‘rishi mumkin edi — va ko‘rishi kerak ham edi.
Ikki kompaniyaning bayonotlariga ko‘ra, voqea kamida quyidagicha kechgan. Bir necha hafta oldin OpenAI o‘zining ayrim yangi modellarini, jumladan GPT‑5.6 Sol (iyun oyida chiqarilgan) va OpenAI “bundan ham qobiliyatliroq, hali chiqarilmagan model” deb ta’riflagan tizimni buzib kirish qobiliyatini sinay boshladi.
OpenAI o‘z modellarini may oyida chiqarilgan ExploitGym nomli sinov mezoniga qarshi qo‘ydi. Bu mezon LLMlardan keng qo‘llanadigan dasturlarda aniqlangan, real hayotdagi zaifliklardan foydalanish yo‘llarini topishni talab qiladi.
Ular nimalarga qodirligini ko‘rish uchun tadqiqotchilar kiberxavfsizlikka oid himoya cheklovlarining aksariyatini olib tashladilar. Keyin modellarni internetdan uzilgan sandbox ichida ishga tushirdilar; sandbox tashqi dunyoga faqat proksi vazifasini bajaruvchi uchinchi tomon dasturiga ulangan bitta havola orqali chiqishi mumkin edi. Shuningdek, modellarga ExploitGym sinovidan o‘tish uchun zarur kodni o‘rnatishga ruxsat berildi.
Reuters xabariga ko‘ra, 9-iyul kuni OpenAI modellari proksi orqali o‘tishga urina boshlagan. Ular proksi dasturidagi noma’lum xatoni topib, undan internetga chiqish uchun foydalangan. Shundan so‘ng, 11-iyul kuni ular Hugging Face’ning kompyuter tizimlariga buzib kirdi. Ko‘rinishidan, maqsad vazifani bajarishga yordam beradigan ma’lumotlar to‘plamlari va yechimlarni topish bo‘lgan. Hugging Face hujum haqida 16-iyul kuni ma’lum qildi.
OpenAI modellari bu jarayonga aloqador bo‘lganini 21-iyulgacha — ular cheklovlardan chiqib ketganidan taxminan 10 kun, Hugging Face hujumni to‘xtatib, FBI’ni ogohlantirganidan esa bir hafta o‘tguncha — anglamadi yoki hech bo‘lmaganda buni oshkor qilmadi.
MIT Technology Review’ga taqdim etilgan bayonotida OpenAI shunday dedi: “Biz tashqi maslahatchilar bilan birgalikda hamda Xavfsizlik va himoya qo‘mitamiz nazorati ostida har tomonlama tekshiruv olib bormoqdamiz. Tekshiruv yakunlangach, o‘rganganlarimiz haqida hamma uchun texnik hisobot e’lon qilamiz.” Kompaniya o‘sha paytda tadqiqotchilari amaldagi xavfsizlik yo‘riqnomalari va tartib-qoidalaridan to‘g‘ri foydalanganini ham tasdiqladi.
Ogohlantiruvchi signal
OpenAI bu hodisani misli ko‘rilmagan deb atadi — ko‘p jihatdan, bu haqiqatan ham shunday edi. Bu simulyatsiyadan tashqarida LLMlar xavfsiz deb hisoblangan sandboxdan chiqib, ochiq internetga kirgani va aloqasi bo‘lmagan tashkilotga hujum qilgani bilan bog‘liq ilk holatdir. Bu so‘nggi LLMlar real dasturiy ta’minotdagi zaifliklarni insonning juda kam yoki umuman yo‘riqnomasisiz topish va ulardan foydalanishda qanchalik kuchli bo‘lib qolganini ko‘rsatadigan ogohlantiruvchi signaldir.
Ammo ayni paytda OpenAI modellari qilgan ish — bu texnologiya yillar davomida bajarib kelayotgan narsadir. Modelga maqsad bering, u ko‘pincha bu maqsadga kutilmagan yo‘llar bilan erishadi va aldovga o‘xshab ko‘rinadigan bo‘shliqlarni topadi. OpenAI’ning o‘zi ham bu xatti-harakatni o‘rgangan.
O‘n yil avval OpenAI CoastRunners nomli videoo‘yinda g‘alaba qozonish vazifasi berilgan model bilan o‘tkazilgan tajriba natijalarini baham ko‘rgan edi. Inson o‘yinchilari buni amalga oshirish yo‘li qayiqni bir qator bayroqlar orasidan finishgacha haydash va urilgan har bir bayroq uchun ochko to‘plash ekanini tabiiy deb hisoblaydi. OpenAI modeli esa qayiqni aylana bo‘ylab aylantirib, bir xil uchta bayroqqa qayta-qayta urilish orqali yuqori ball olish mumkinligini tushundi. Shundan beri tadqiqotchilar o‘nlab shunga o‘xshash misollarni keltirdilar. AI har doim biror yo‘l topadi.
OpenAI 2016-yilda CoastRunners tajribasi haqida blog postida shunday yozgan edi: “Qayta-qayta yonib ketishiga, boshqa qayiqlarga urilishiga va trassada noto‘g‘ri yo‘nalishda harakatlanishiga qaramay, agentimiz ushbu strategiya yordamida yo‘nalishni odatiy tarzda bosib o‘tish orqali erishish mumkin bo‘lganidan ham yuqori ball to‘playdi. Videoo‘yin kontekstida bu zararsiz va kulgili bo‘lsa-da, bunday xatti-harakat umumiyroq muammoga ishora qiladi … agentdan aynan nimani xohlayotganimizni aniq ifodalash ko‘pincha qiyin yoki amalda imkonsiz.”