OpenAI ilg‘or AI modellarini o‘qitishda internetga kirishni to‘xtatadi
OpenAI bir qator hodisalardan so‘ng yangi xavfsizlik choralarini joriy etish maqsadida ilg‘or AI modellarini o‘qitish vaqtida internetga kirishga endi…
OpenAI bir qator hodisalardan so‘ng yangi xavfsizlik choralarini joriy etish maqsadida ilg‘or AI modellarini o‘qitish vaqtida internetga kirishga endi ruxsat bermasligini ma’lum qildi.
Kompaniya shu tariqa yana bir Hugging Face hodisasining oldini olishga urinmoqda.
Samuel Boivin/Shutterstock
OpenAI blogidagi xabarga ko‘ra, kompaniya bundan buyon ilg‘or AI modellarini internetga ulanmagan holda o‘qitadi. Maqsad — internet infratuzilmasini himoya qilish va boshqa xavfsizlik xatarlarini kamaytirish.
Bu qarorga OpenAI’ning o‘zida yuz bergan nazoratdan chiqqan AI hodisasi sabab bo‘lgan. Iyul oyida kompaniya sinovdan o‘tkazayotgan agentlar Hugging Face tizimini buzib kirganini ma’lum qilgan edi. Bu esa OpenAI, Anthropic va Google tizimlaridagi AI’larning nomaqbul xatti-harakatlari haqidagi ketma-ket xabarlarning boshlanishi bo‘ldi.
“Alignment tadqiqotlari, monitoring tizimlari va internet infratuzilmasi xavfsizligining hozirgi holatini hisobga olib, biz ilg‘or modellarni internetga umuman ulanmagan holda o‘qitishni mas’uliyatli yondashuv deb bilamiz”, — deyiladi OpenAI bayonotida.
Kompaniya yangi yondashuvda agentlar nimalarga kira olishini qat’iy cheklash “eng muhim masala” ekanini ta’kidladi. O‘qitish vazifalarini bajarish uchun agentlarga brauzerlar, kompyuterni boshqarish vositalari va kod yozish muhitlaridan foydalanishga ruxsat beriladi. Biroq bularning barchasi jonli internetga ulanmagan, xavfsiz muhitda ishlaydi. Shuningdek, agentlar o‘rtasidagi aloqa ham faqat ruxsat berilgan holatlar bilan cheklanadi.
OpenAI
Jonli internetdan tashqari, qolgan barcha resurslar ham agentlar uchun yopiq bo‘ladi. Kompaniya o‘qitish va “aksariyat baholash jarayonlari” uchun jonli internet zarur emasligini aytmoqda.
OpenAI’ning so‘nggi modellarining ko‘pi Dots kabi agentlarni ishga tushirish uchun mo‘ljallangan. Bunday agentlar foydalanuvchi nomidan saytlarni ko‘rib chiqishi va ilovalardan foydalanishi mumkin. Shu sababli OpenAI agentlar jonli saytlarga ulanmasdan foydalanishi uchun internetdagi materiallarning indekslangan va keshlangan nusxalaridan iborat “oflayn dunyo”ni yaratdi.
Biroq bu cheklovlarga qaramay, OpenAI xavfsizlik choralarini tekshirish uchun yuborgan “qizil guruh” agentlari bir qator zaifliklarni aniqlaganini ma’lum qildi. Ushbu zaifliklar agentlarga ularni asosiy tizimdan ajratib turuvchi virtual mashinalardan (VM) chiqib ketish imkonini bergan.
Agentlar, shuningdek, protsessor keshidagi ma’lumotlarni o‘zgartirish va ularning yuklanishiga qancha vaqt ketishini o‘lchash orqali o‘zaro aloqa qilish usulini ham topgan. OpenAI bu muammolarni bartaraf etish uchun bir nechta VM’dagi zaifliklarni oshkor qilgan va tuzatgan. Bundan tashqari, modellar o‘zaro hamkorlik qilishga urinayotganini aniqlash uchun monitoring tizimlariga qo‘shimcha tekshiruvlar kiritilgan.