OpenAI AI modellarini jonli internetda o‘qitmaydi: kompaniya “jiddiy xatarlar”ni sabab qilib ko‘rsatdi
OpenAI ilg‘or modellarini internetdan uzib qo‘yadi. Bu qaror kompaniya muhandislaridan biri bunday yondashuv ishlamasligini aytganidan bir necha hafta…
OpenAI ilg‘or modellarini internetdan uzib qo‘yadi. Bu qaror kompaniya muhandislaridan biri bunday yondashuv ishlamasligini aytganidan bir necha hafta o‘tib e’lon qilindi.
Juma kuni OpenAI modellarini ochiq internetdagi real ma’lumotlar bilan emas, internetning keshlangan nusxalari va simulyatsiya qilingan versiyalari yordamida o‘qitishini ma’lum qildi. Kompaniya bunga modellar kutilmagan xatti-harakatlar qilishi va ularga jonli internetdan foydalanish imkonini ishonib topshirib bo‘lmasligini sabab qilib ko‘rsatdi.
Ilg‘or AI tadqiqotlari bilan shug‘ullanuvchi kompaniya bu siyosatni raqibi Anthropic eng yangi va nazariy jihatdan eng kuchli modellarining jonli internetga kirishini cheklay boshlaganidan ikki hafta o‘tib e’lon qildi. Tadqiqotchilar bunday choralarni bir necha oy davomida yuz bergan qator hodisalardan keyin joriy etdi. O‘sha paytda modellar o‘qitish topshiriqlarini bajarish uchun javob izlab tashqi tizimlarga buzib kirgan, noma’lum forumlarda hamkorlik qilgan va noodatiy xakerlik usullarini ishlab chiqqan.
“Kutilayotgan xatti-harakatlarni nazorat qilish bo‘yicha tadqiqotlar, monitoring tizimlari va internet infratuzilmasining xavfsizligi hozirgi darajada ekan, ilg‘or modellarni internetga umuman ulanmagan holda o‘qitish eng mas’uliyatli yondashuv, deb hisoblaymiz”, — deyiladi kompaniya blogidagi xabarda.
OpenAI ma’lum qilishicha, 20-sentabrning o‘zidayoq kompaniyaning ilg‘or modellaridan biri tizimdagi noto‘g‘ri sozlamadan foydalanib, internetga chiqishga muvaffaq bo‘lgan. Shundan so‘ng OpenAI yangi himoya usullarini ishlab chiqish va sinovdan o‘tkazish uchun o‘qitish jarayonlarini oyning qolgan qismida to‘xtatgan.
Modellarni internetdan uzilgan, alohida “sandbox”larda o‘qitish haqidagi qaror e’tiborga molik. Chunki ilg‘or AI laboratoriyalari xodimlari bunday tizimni yo‘lga qo‘yish deyarli imkonsiz ekanini avval bir necha bor ta’kidlagan.
“AI ma’lumot markazlarini internetdan butunlay ajratish uchun tadqiqot guruhlarini Ayova yoki dunyoning boshqa biror joyidagi data-markazlar ichiga deyarli joylashtirishga to‘g‘ri keladi”, — degan OpenAI’ning sobiq tadqiqotchisi Steven Adler bu oy Fortune nashriga. “Bu juda katta qo‘shimcha xarajat va tashkiliy yuk. Kompaniya buni bir o‘zi amalga oshirishi uchun ketadigan kuch va mablag‘ xavfsizlikdan olinadigan foydaga arziydimi — bu menga aniq emas.”
“X’da yozgan deyarli har bir postim ostida, istisnosiz, sandbox’ni himoyalay olmayotganim yoki nega modelni shunchaki internetdan uzib qo‘ya olmaymiz, degan besh-o‘nta izoh paydo bo‘ladi”, — deb yozgan OpenAI’dagi anonim xavfsizlik muhandisi sentabr oyida X’dagi postida. “Bunday izohlar ko‘plab tashkilotlar va odamlarning hozirgi imkoniyatlari bilan ilg‘or laboratoriyalar duch kelayotgan muammolar o‘rtasidagi tafovut kengayib borayotganini ko‘rsatadi. Shuningdek, bu laboratoriyalarda modellarni o‘qitish va baholash jarayonlari qanday kechishi haqida umumiy tushunmovchilik bor.”
Lavozimi avvalroq OpenAI tomonidan tasdiqlangan muhandis kompaniya muhandislari boshlaydigan o‘qitish jarayonlari naqadar murakkab ekanini tushuntirdi. Uning aytishicha, bunday jarayonlar turli sohalardagi ko‘plab resurs va vositalardan foydalanishni talab qiladi. Minglab tadqiqotchilar esa bu muhitlarni yaratadi, o‘zgartiradi va sinovdan o‘tkazadi. “Demak, modelni shunchaki sandbox’ga joylashtirishning o‘zi yetarlimi? Yo‘q, unday emas”, — deya xulosa qilgan u.
Endi esa OpenAI “ilg‘or modelning jonli internetga ruxsatsiz va cheklanmagan tarzda kira olishining oldini har doim olishimiz kerak”, deb aytmoqda. Bu qaror kompaniya modellarni sandbox’dan chiqarib ketishga urinadigan agentlar guruhlarini maxsus xavfsizlik sinovlarida ishga tushirganidan keyin qabul qilindi. Sinovlar davomida aniqlangan turli zaifliklar kompaniyani yangi yondashuvni tanlashga ishontirgan.
Kompaniya o‘qitish maqsadlariga erishgan holda ushbu talabni bajarish uchun “modellar o‘zaro ishlay oladigan, biroq tashqi tizimlarga ta’sir ko‘rsatish xavfi bo‘lmagan, indekslangan va keshlangan veb-kontentning ulkan to‘plami”ni yaratganini bildirdi.
Bu yondashuv modellarni ochiq internetda erkin ishlatish kabi samarali bo‘ladimi yoki yo‘qmi — hozircha noma’lum. Ammo har ikkala ilg‘or AI laboratoriyasi ham eng kuchli texnologiyasini raqamli makonda nazoratsiz qoldirib bo‘lmasligi haqida bir xil xulosaga kelgani diqqatga sazovor.