OpenAI xavfsizlik xavotirlari sabab Astra modeli ustidagi ishlarni sekinlashtirganini aytdi
OpenAI kiberxavfsizlik borasidagi imkoniyatlari yuzasidan xavotirlar paydo bo‘lgach, kelajakda chiqarilishi rejalashtirilayotgan Astra modelining ayrim…
OpenAI kiberxavfsizlik borasidagi imkoniyatlari yuzasidan xavotirlar paydo bo‘lgach, kelajakda chiqarilishi rejalashtirilayotgan Astra modelining ayrim yo‘nalishlari ustidagi ishlarni to‘xtatganini ma’lum qildi.
Kompaniya juma kuni bergan bayonotida ichki tekshiruv Astra agentik dasturlash va kiberxavfsizlik sohalarida sezilarli yutuqlarga erishganini ko‘rsatganini bildirdi. Modelning imkoniyatlari shu darajaga yetganki, bu holat xavotirga sabab bo‘lishi mumkin.
OpenAI blogida yozishicha, hali ishlab chiqilayotgan Astra “kiberxavfsizlik bo‘yicha muhim chegara”ga yetgan. Bu model an’anaviy ravishda yaxshi himoyalangan real tizimlarga qarshi kiberhujumlarni mustaqil ravishda aniqlashi va amalga oshirishi mumkinligini anglatadi. Kompaniya 2023-yilda ishlab chiqqan “Tayyorgarlik tizimi”ga ko‘ra, bunday natija qo‘shimcha himoya choralarini ishga tushirishni talab qiladi.
“Biz ushbu modelni sinash va baholashda davom etyapmiz. Dastlabki natijalar uning ko‘rsatkichlari yetarlicha kuchli ekanini ko‘rsatmoqda. Shu sababli hozircha u ‘muhim darajadagi imkoniyatlar’ga ega ekanini istisno qila olmaymiz”, deb yozdi OpenAI. “Astra hali ishlab chiqilayotgan model bo‘lib, Hugging Face tizimiga uyushtirilgan hujumda undan foydalanilmagan.”
Bu ma’lumot hali shakllanib ulgurmagan va tez o‘zgarayotgan ilg‘or AI laboratoriyalari sohasidagi noodatiy vaziyatni ko‘rsatadi. Turli sohalardagi kompaniyalar xavfsizlik va kiberxavfsizlik bilan bog‘liq ehtimoliy xatarlar sabab mahsulotlarini vaqtincha to‘xtatib turishi mumkin. Ammo hali ishlab chiqilayotgan mahsulot bo‘yicha bunday qarorlarni ommaga ochiq e’lon qilish kamdan-kam uchraydi.
Bu holatda OpenAI allaqachon boshqa, hali chiqarilmagan model sabab tanqidlar markazida turibdi. Ichki sinovlar paytida o‘sha model Hugging Face tizimlariga kirib ketgan edi. Bu AI laboratoriyasi o‘z modelini nazoratdan chiqarib qo‘yganini tasdiqlagan ilk voqea bo‘ldi. Shundan keyin OpenAI va Anthropic kabi AI laboratoriyalari boshqa holatlar haqida ham xabar berdi: sinovlar davomida AI modellari o‘zlari joylashtirilgan himoyalangan muhitdan chiqib, kiberxavfsizlik tekshiruvlari vaqtida xavf tug‘dirgan.
Bunday holatlar tobora ko‘paymoqda — hozir deyarli har kuni yangi xabar chiqayotgandek. Bu esa kiberxavfsizlik mutaxassislari, qonunchilar va AI laboratoriyalarida turlicha munosabat uyg‘otdi. Ayrimlar xavotir bildirib, qat’iyroq nazorat o‘rnatishga chaqirmoqda. Biroq bu vaziyatda o‘z imkoniyatlarini namoyish qilish unsuri ham bor. Ayrim doiralarda shunday salohiyatga ega model yaratgan har qanday AI laboratoriyasining natijasi katta yutuq sifatida baholanadi.
OpenAI bu ma’lumotni jamoatchilikka oshkor qilayotganining sababini shunday izohladi: kompaniya “imkoniyatlardagi bu ehtimoliy o‘zgarish haqida jamoatchilik, shuningdek, xavfsizlik va himoya masalalari bilan shug‘ullanuvchi hamjamiyatlarga ochiq gapirish muhim”, deb hisoblaydi.
AI laboratoriyasi Astra bilan bog‘liq qo‘shimcha choralar ham ko‘rilayotganini aytdi. Jumladan, yanada qat’iy xavfsizlik nazoratlari joriy etiladi va kuchaytirilgan himoya talablariga javob bermaydigan ichki jarayonlar vaqtincha to‘xtatiladi. OpenAI ushbu model imkoniyatlarini sinash uchun tegishli davlat idoralari va “tanlangan AI xavfsizligi tashkilotlari” bilan hamkorlik qilayotganini bildirdi.