OpenAI Hugging Face’dagi buzilishdan so‘ng yangi xavfsizlik choralarini joriy qildi
Yangi choralar modellarni ishlab chiqish jarayonida batafsilroq monitoring olib borish, shuningdek, keyingi o‘qitish bosqichida modelning inson…
Yangi choralar modellarni ishlab chiqish jarayonida batafsilroq monitoring olib borish, shuningdek, keyingi o‘qitish bosqichida modelning inson manfaatlariga mosligi va xavfsizligiga ko‘proq e’tibor qaratishni o‘z ichiga oladi.
Seshanba kuni OpenAI modellar sinovdan o‘tkazilayotgan paytda yuzaga kelishi mumkin bo‘lgan xavfsizlik hodisalarini cheklashga qaratilgan yangi siyosatlar to‘plamini e’lon qildi. Yangi choralar modellarni ishlab chiqish jarayonida batafsilroq kuzatishni, shuningdek, keyingi o‘qitish bosqichida ularning inson manfaatlariga mosligi va xavfsizligiga katta e’tibor berishni nazarda tutadi.
“Modellar tobora kuchli bo‘lib borar ekan, ularni ichki muhitda ishlab chiqish va sinovdan o‘tkazish bilan bog‘liq xavflar ham ortadi”, — deyiladi kompaniya blogidagi xabarda. “Monitoring, moslik va xavfsizlik bo‘yicha talablarimiz bu xavflardan oldinda bo‘lishi kerak.”
Bu choralar OpenAI’ning 21-iyul kuni oshkor qilingan Hugging Face’dagi hodisadan keyin xavfsizlik amaliyotlariga kiritgan dastlabki ommaviy o‘zgarishlaridan biridir.
OpenAI vakillarining aytishicha, yangi choralar Hugging Face’dagi hodisaga bevosita javoban ishlab chiqilmagan. Biroq ularga qisman kutilayotgan Astra modelining kiberxavfsizlik imkoniyatlari, shuningdek, AI sohasidagi rivojlanish sur’atining tezlashuvi ham turtki bo‘lgan.
OpenAI shu xabarning o‘zida Hugging Face’dagi hodisadan keyin reinforcement learning (RL) jarayonini ikki haftaga to‘xtatganini ma’lum qildi. Keyinchalik xavfi nisbatan past bo‘lgan ko‘plab modellarni qayta o‘qitishni boshlagan.
“Frontier RL bo‘yicha rejalashtirilgan eng yirik sinovimiz hozircha to‘xtatib turilibdi. Avval kichikroq ko‘lamdagi o‘qitish va baholash ishlarini olib boramiz. Bu orqali model xatti-harakatlarini o‘rganish, xavfsizlik choralarimizni tekshirish va ishni davom ettirishdan oldin modelning mosligi haqida yetarli dalillar to‘plashni maqsad qilganmiz”, — deyiladi xabarda.
Jurnalistlar bilan suhbatda OpenAI tadqiqot bo‘yicha vitse-prezidenti Amelia Glaese modellar qanchalik kuchli bo‘lsa, nazorat choralari ham shunchalik qat’iylashishini ta’kidladi. Eng yirik modellar eng jiddiy tekshiruvdan o‘tkaziladi.
“Xavfsiz ishlab chiqish uchun zarur talab va kutilmalarni joriy etdik”, — dedi Glaese jurnalistlarga. “Bu talablar va kutilmalar biz ko‘rayotgan xavf darajasiga qarab o‘zgaradi.”
Hodisadan so‘ng OpenAI tarmoq xavfsizligi borasidagi amaliyotlari uchun tanqid qilindi. O‘sha voqea paytida modellar kompaniya tarmog‘idagi internetga ulangan vositani buzib, o‘zlariga ajratilgan o‘qitish muhitidan chiqib ketgan.
Yangi choralar tarmoqni yanada kuchli izolyatsiya qilishni ham nazarda tutadi, biroq aniq tafsilotlar hozircha ochiqlanmagan. Xabarda aytilishicha, yangi tizimda “biror ish jarayoni yoki uni qo‘llab-quvvatlovchi xizmatning buzilishi o‘z-o‘zidan internetga yoki boshqa ichki tarmoqlarga ruxsatsiz kirish imkonini bermaydi”.
Eng kuchli xavfsizlik chorasi — monitoring tizimi. U vositalarning harakatlari, mavjud reasoning traces va faollik jurnallarini tahlil qilib, turli xil ruxsatsiz xatti-harakatlarni aniqlaydi. OpenAI xavotirli faollik qayd etilganidan keyin 30 daqiqa ichida ogohlantirish berishni maqsad qilgan.