AI xavfsizligini e’tiborsiz qoldirish uchun sabablarimiz tugab bormoqda
Shu oy boshida OpenAI bir nechta AI modeliga kiberxavfsizlik imkoniyatlarini o‘lchash uchun mo‘ljallangan testni topshirishni buyurdi.
Keyin yuz bergan voqea deyarli kulgili darajada bema’ni — biroq AI xavfsizligi bilan shug‘ullanuvchi FAR.AI tashkiloti hammuassisi va bosh direktori Adam Gleave ta’kidlaganidek, “moslashtirilmagan AI zarar yetkazishi mumkinligining juda ta’sirchan misoli” hamdir. OpenAI ma’lumotiga ko‘ra, modellar ularni cheklash uchun yaratilgan sandboxdan chiqib, kompaniyaning ichki tizimlari bo‘ylab harakatlangan, internetga chiqish yo‘lini topgan va keyin Hugging Face tizimiga kirish yo‘lini qidira boshlagan. Agent nima uchun Hugging Face’ga kirish yo‘lini izlagan? Ko‘rinishidan, u ishlab chiquvchilar platformasida kiberbenchmark javoblari saqlanishi mumkin, ularni qo‘lga kiritish esa yuqori ball olishning ajoyib usuli bo‘ladi, deb xulosa qilgan.
Bu hodisa “moslashtirilmagan AI zarar yetkazishi mumkinligining juda ta’sirchan misoli”.
Boshqacha aytganda, OpenAI agenti go‘yoki xavfsiz muhitdan chiqib, kompaniya tizimlari bo‘ylab kezgan, internetga ulangan va boshqa kompaniya tizimlarini buzgan — bularning barchasi unchalik muhim bo‘lmagan testda aldash uchun.
Bu o‘z turidagi yaxshi hujjatlashtirilgan ilk hodisa yoki hech bo‘lmaganda bunday ko‘lamdagi birinchi voqea ko‘rinadi. U tizim maqsadga ko‘zda tutilmagan usulda erishishga urinayotganining yaqqol misoli bo‘lish bilan birga, ilg‘or modellar bunday xatti-harakat real hayotda oqibatlarga olib keladigan darajada kuchayganini ham ko‘rsatdi.
Fazl Barez, Oxford University’dagi AI xavfsizligi tadqiqotchisi, bu buzib kirishni AI xavfsizligi hamjamiyati “spetsifikatsiya o‘yini” deb ataydigan, “mukofotni buzib ishlatish” nomi bilan ham tanilgan xatti-harakatga misol qilib keltirdi. Sodda qilib aytganda, bu “model siz nazarda tutgan narsani emas, so‘ragan narsangizni bajarishi” degani, dedi Fazl. U vazifaning so‘zma-so‘z talablarini bajaradi, ammo uning aniq maqsadini buzadi; bunday holat ko‘plab AI tizimlarida qayd etilgan. Ayrim tadqiqotchilar tizimlar qobiliyati oshgani sari bu tobora moslashtirilmagan tizimlarni yuzaga keltirishi mumkinligidan xavotirda: ular yaratuvchilari ko‘zlamagan usullar bilan maqsadlariga erishadi (masalan, hammani qog‘oz qisqichiga aylantirish).
“Bu zanjirdagi hech bir narsa alohida holda g‘ayrioddiy emas,” dedi Fazl. Uning qo‘shimcha qilishicha, malakali inson sinovchi bularning barchasini bajara oladi. “Yangilik shundaki, model to‘xtamadi.” Uning aytishicha, eski modellar ehtimol qandaydir to‘siqqa duch kelib, foydalanuvchiga qaytgan bo‘lardi, bu agent esa “to‘siqni o‘ziga berilgan vazifaning bir qismi sifatida ko‘rdi”.
OpenAI buni “misli ko‘rilmagan kiberhodisa” deb atadi va u “AI xavfsizligi uchun muhim lahzani” belgilashini aytdi. Hugging Face hammuassisi Thomas Wolf buni soha uchun “uyg‘otuvchi qo‘ng‘iroq” deb atadi. Ammo bu AI apokalipsisining to‘rt chavandozidan biri emas. Kiberhodisalar nuqtayi nazaridan, The Verge’ga gapirgan ekspertlar uni ancha oddiy deb baholadi. Agent bajargan ishlarning hech biri g‘ayriinsoniy qobiliyatni talab qilmagan. Bundan tashqari, GPT-5.6 Sol va Anthropic kompaniyasining Mythos kabi ilg‘or tizimlari kod yozishda mohir ekani ma’lum, ulardan allaqachon ko‘p marta noto‘g‘ri foydalanilgan deb hisoblanadi, AI vositalari esa xakerlarga hujumlarni juda katta miqyosda kengaytirish va takomillashtirish imkonini bermoqda.
Bu shunchaki shov-shuv bo‘lishi mumkinmi? Soha bir necha oydan beri eng kuchli modellarining, ayniqsa kiberxavfsizlik borasidagi xavfli imkoniyatlari haqidagi da’volarni kuchaytirib kelmoqda. Bu OpenAI va Anthropic kabi kompaniyalar eng qobiliyatli modellarini keng jamoatchilikka taqdim etmayotganining rasmiy sababi, shuningdek Trump ma’muriyati ularga nisbatan eksport nazoratini shoshilinch joriy etganining qisman sababidir.
Siz AI xavfsizligi tadqiqotchisi yoki ilg‘or laboratoriya xodimimisiz? Men bilan Signal orqali robhart.01 manzilida xavfsiz va maxfiy bog‘lanishingiz mumkin. X’dagi shaxsiy xabarlarim ham ochiq.
Biroq bu shov-shuv bo‘lsa ham, u OpenAI manfaatiga to‘liq xizmat qilmadi. Keyingi kunlarda hujum AQSh texnologiya sanoatining katta qismida ochiq vaznli AI tizimlarining ahamiyati va AI xavfsizligiga jiddiyroq yondashish zarurligi borasida kamdan-kam uchraydigan birdamlikni yuzaga keltirdi. Bu xavotirlar Xitoydan chiqqan, imkoniyatlari yuqori ochiq vaznli model Kimi K3 chiqarilishi bilan yanada kuchaydi. Nvidia, Microsoft va SpaceX kabi kompaniyalarni o‘z ichiga olgan keng koalitsiya hodisa himoyachilarga mavjud eng qobiliyatli vositalardan foydalanish imkoniyati nega kerakligini ko‘rsatganini ta’kidladi. Ular xavfsizlikka oid muhim ishlar paytida o‘rnatilgan himoya choralarining samaradorlikni cheklashi mumkin bo‘lgan yopiq provayderlarga tayanishga majbur bo‘lmasligi kerak. OpenAI, Anthropic va Google koalitsiyaning ta’sischi a’zolari orasida, e’tiborga molik tarzda, yo‘q edi.
“E’tibor berib kelgan har qanday odam imkoniyatlar faqat bir yo‘nalishda — o‘sish tomonga — ketayotganini payqagan.”
OpenAI hodisa haqidagi bayoni, shubhasiz, ilg‘or modellarning xavfli imkoniyatlari haqidagi sohadagi kengroq qarashlarga mos keladi. Shunga qaramay, bir nechta tafsilot bu hodisani shunchaki o‘z manfaatini ko‘zlagan da’vo sifatida rad etishni qiyinlashtiradi. Eng muhimi, bu AI sanoati yillar davomida ogohlantirib kelgan muammoning misoli — OpenAI esa uni oldindan kutishi mumkin edi. Bundan tashqari, voqea buzib kirishni jilovlashda modeli muhim rol o‘ynagan yirik xitoylik raqibga kutilmagan turtki berdi, OpenAI esa jiddiy huquqiy, tartibga soluvchi va obro‘ga oid tekshiruvlarga duch keldi. Hugging Face OpenAI bilan hamkorlik qilishga qiziqayotgani va hech bo‘lmaganda omma oldida bu voqeaga nisbatan ancha xotirjam munosabatda bo‘lgani zararni cheklagan bo‘lishi mumkin. The Verge suhbatlashgan ekspertlarning aksariyati ham hodisani shov-shuvga keltirib taqamaslik haqida ogohlantirdi.