OpenAI haddan tashqari kuchli bo‘lishi mumkin bo‘lgan yangi model ustidagi ishlarni vaqtincha to‘xtatdi
OpenAI ishlab chiqilayotgan Astra nomli AI modeli bo‘yicha “ichki faoliyat”ni vaqtincha to‘xtatganini ma’lum qildi.
OpenAI ishlab chiqilayotgan Astra nomli AI modeli bo‘yicha “ichki faoliyat”ni vaqtincha to‘xtatganini ma’lum qildi. Bunga sabab — model kompaniya joriy etayotgan yangi xavfsizlik standartlariga hozircha javob bermayotgani. Bu xabar OpenAI modellari yaqinda tasodifan Hugging Face tizimini buzib kirgani oshkor qilinganidan keyin e’lon qilindi. Keyinchalik Anthropic va Meta ham o‘z AI modellari nazoratdan chiqib, boshqa tashkilotlar tizimlariga buzib kirganini tan oldi.
OpenAI’ning aytishicha, ishlab chiqilayotgan Astra modeli kiberxavfsizlik bo‘yicha “o‘ta jiddiy” imkoniyatlarga ega bo‘lishi mumkin.
Jay Peters
2026-yil 7-avgust, 18:40 UTC
Jay Peters — texnologiyalar, o‘yinlar va boshqa mavzularda yozadigan katta muxbir. U 2019-yilda, Techmeme’da qariyb ikki yil ishlaganidan so‘ng, The Verge jamoasiga qo‘shilgan.
OpenAI ma’lumotlariga ko‘ra, Astra nomli model ustida o‘tkazilgan so‘nggi ichki sinovlar uning “agentlik kod yozish va kiberxavfsizlik sohalarida sezilarli yutuqlarga” erishganini ko‘rsatgan.
“Kechagi ekspert baholari va ushbu natijalar bizni Preparedness Framework doirasida o‘ta jiddiy kiberimkoniyatlar mavjudligini istisno qila olmasligimiz haqida xulosa qilishga majbur qildi”, — deyiladi kompaniya xabarida.
OpenAI “o‘ta jiddiy” kiberxavfsizlik chegarasini quyidagicha izohlaydi:
“Bizning Preparedness Framework mezonlarimizga ko‘ra, model ko‘plab himoyalangan, real hayotdagi muhim tizimlarda har qanday darajadagi zaifliklardan foydalanib, ishlaydigan zero-day eksploitlarni inson aralashuvisiz aniqlay va yarata olsa, ‘Critical’ — o‘ta jiddiy kiberxavfsizlik chegarasiga yetgan hisoblanadi. Yoki modelga faqat hujumdan ko‘zlangan umumiy maqsad berilganda, kuchli himoyalangan nishonlarga qarshi yangi kiberhujum strategiyalarini boshidan oxirigacha ishlab chiqib, amalga oshira olsa ham shu toifaga kiradi.”
OpenAI Astra Hugging Face tizimining buzib kirilishida “ishtirok etmaganini” ta’kidladi.
Kompaniya xabariga ko‘ra, bundan buyon imkoniyati yuqori modellar va ular bilan bog‘liq faoliyat uchun “yanada qat’iy xavfsizlik nazorati” joriy etiladi. Astra uchun esa barcha agentlik ilovalarida “xavfli harakatlar va maqsadga nomuvofiq xatti-harakatlar”ni kuzatib boruvchi “universal monitoring” tizimi ishga tushirilgan.
Ushbu mavzu va maqola muallifini kuzatib boring — shunga o‘xshash materiallar shaxsiy bosh sahifangizda ko‘rinadi va yangiliklar elektron pochtangizga yuboriladi.