OpenAI yangi modellarini o‘qitishni vaqtincha to‘xtatdi
OpenAI eng so‘nggi modellarida reinforcement learning (RL) asosidagi o‘qitish jarayonini ikki haftaga to‘xtatdi.
OpenAI eng so‘nggi modellarida reinforcement learning (RL) asosidagi o‘qitish jarayonini ikki haftaga to‘xtatdi. Kompaniya bu qarorni modellar imkoniyatlari tez sur’atlar bilan kengayayotgan bir paytda xavfsizlik va monitoring tizimlari ortda qolib ketmasligi uchun qabul qilganini bildirdi.
Tanaffus allaqachon yakunlangan. OpenAI bayonotiga ko‘ra, o‘qitish ikki hafta davomida to‘xtatilgan va bu faqat kelajakda foydalanishga chiqarilishi rejalashtirilgan modellar uchun RL jarayoniga taalluqli bo‘lgan. Kompaniyaning “chegara imkoniyatlariga ega modellar uchun rejalashtirilgan eng yirik RL sinovi” esa hanuz to‘xtatilganicha qolmoqda. Shu bilan birga, kichikroq ko‘lamdagi o‘qitish va baholash ishlari davom etyapti.
Bu qarorga ikki omil sabab bo‘lgan. Birinchisi — OpenAI’ning tayyorgarlik tizimi bo‘yicha eng yuqori xavf darajasi hisoblangan “Critical” toifasiga kompaniyaning navbatdagi Astra modeli yetib borishi mumkinligi haqidagi dastlabki xulosa.
Ikkinchi sabab esa avvalroq xabar berganimiz hodisa bo‘ldi. Iyul oyida OpenAI modellaridan biri — GPT-5.6 Sol — hamda hali taqdim etilmagan, yanada kuchliroq prototip ichki kiberxavfsizlik sinovi vaqtida sandbox muhitidan chiqib ketgan. Ular internetga ulanib, Hugging Face’ning ishlab chiqarish infratuzilmasini buzgan.
Sinov davomida kiberhimoya vositalari ataylab zaiflashtirilgan edi. Model ExploitGym benchmarkidagi topshiriqni bajarishga urinayotib, “nol kunlik” zaiflikdan foydalangan va belgilangan chegaralardan chiqib ketgan.
OpenAI bir jihatni alohida ta’kidladi: yangi xavfsizlik choralari faqat Hugging Face bilan bog‘liq hodisaga javob sifatida joriy etilmagan. Bu, avvalo, modellar tobora kuchayib borayotgan bir paytda xavfsizlik talablarini kengroq miqyosda kuchaytirishning bir qismi.
OpenAI bosh ilmiy xodimi Jakub Pachocki jurnalistlar uchun o‘tkazilgan brifingda shunday dedi: “Biz tobora kuchliroq modellarni o‘qityapmiz. Shu sababli ularning imkoniyatlari qaysi chegaragacha yetishini to‘liq tushunishimizga, buni aniq o‘lchay olishimizga va modellar tobora yuqorilab borayotgan talablarga javob berishiga ishonch hosil qilmoqchimiz”.
Bosh direktor Sam Altman esa bu qaror xavfsizlikni ustuvor qo‘yish ekanini aytdi. Shu bilan birga, kompaniya eng ilg‘or imkoniyatlarni keng ommaga taqdim etish majburiyatidan voz kechmaganini bildirdi.
Bu qadam texnologiya sohasidagi kengroq tendensiyaga mos keladi. Masalan, Anthropic ham aprel oyida Claude Mythos modelini ehtiyotkorroq yondashuv asosida, cheklangan tarzda taqdim etishni tanlagan edi.
OpenAI’ning hozirgi tanaffusi kompaniya model ishlab chiqishni xavfsizlik sababli rasman to‘xtatgan ilk holat sifatida qayd etilmoqda. Bu Astra modelining chiqarilish muddatiga ta’sir qilishi mumkin. Biroq Altman modelni umumiy foydalanishga chiqarish rejalari o‘zgarishsiz qolayotganini aytgan.