OpenAI’ning qochib ketgan AI agenti Hugging Face’ni buzish bilan cheklanmagan
OpenAI seshanba kuni ma’lum qilishicha, kompaniyadan qochib chiqib, dasturchilar platformasi Hugging Face’ni buzgan AI agent boshqa kompaniyalarga ham…
Robert Hart
Londonda yashovchi muxbir Robert Hart The Verge nashrida AI bilan bog‘liq barcha mavzularda yozadi va Senior Tarbell Fellow hisoblanadi. Avvalroq u Forbes uchun sog‘liqni saqlash, fan va texnologiya haqida maqolalar tayyorlagan.
OpenAI seshanba kuni ma’lum qilishicha, kompaniyadan qochib chiqib, dasturchilar platformasi Hugging Face’ni buzgan AI agent boshqa kompaniyalarga ham hujum qilgan. Bu yangilanish allaqachon jiddiy xavotir uyg‘otgan hodisa ko‘lamini sezilarli darajada kengaytiradi: u soha vakillarini tashvishga solib, ilg‘or AI tizimlari ustidan kuchliroq nazorat o‘rnatish haqidagi chaqiriqlarni kuchaytirdi.
Hodisa yuzasidan davom etayotgan tekshiruv tafsilotlari berilgan blog posti yangilanishida OpenAI AI agenti Hugging Face’ga yetib borishga urinib, bir nechta “ommaga ochiq xizmatlar”ga hujum qilganini aytdi. “Bunga to‘rtta xizmatdagi to‘rtta akkaunt kiradi”, — dedi kompaniya va agent internetdan tizimga kirish ma’lumotlarini topganini qo‘shimcha qildi.
Buzib kirishlar Hugging Face’ni egallab olish holatiga qaraganda kamroq ko‘lamli bo‘lgan. “Hozirgacha o‘tkazgan tekshiruvimizga ko‘ra, Hugging Face bilan bog‘liq holda ma’lum qilganimizdek, platforma darajasidagi buzilishni o‘z ichiga olgan hodisaning jiddiyligi yoki ko‘lamiga teng boshqa faoliyatni aniqlamadik”, — dedi OpenAI.
OpenAI “puxta tekshiruv o‘tkazayotganini” va xulosalari aks etgan texnik hisobotni “yaqin haftalarda” e’lon qilishini bildirdi. Kompaniya hodisaga aloqador modellarning hech biri ommaga chiqarilishi rejalashtirilmaganini aytdi hamda avval tilga olingan, chiqarilishidan oldingi tizimni “faqat ichki foydalanish uchun mo‘ljallangan tadqiqot prototipi” deb ta’rifladi. U keyinchalik tadqiqot maqsadlaridagi foydalanishdan “o‘chirildi, shifrlanib, cheklab qo‘yildi”.
OpenAI zarar ko‘rgan tashkilotlarni nomlamadi, biroq Reuters xabariga ko‘ra, ular orasida Nyu-Yorkda joylashgan Modal Labs ham bo‘lgan.
Bu ma’lumot Hugging Face tomonidan berilgan batafsilroq bayonotdan keyin e’lon qilindi. Unda agent “uchinchi tomon infratuzilmasi provayderi foydalanuvchisi joylashtirgan, ommaga ochiq kodni baholash vositasidan suiiste’mol qilgani” aytilgan.
Qo‘shimcha tafsilotlar ko‘plab ekspertlar misli ko‘rilmagan AI xavfsizligi hodisasi deb hisoblayotgan voqea yuzasidan xavotirni kuchaytirishi mumkin. Bu xabar avtonom tizimlarning tez rivojlanishi va Xitoyda yaratilayotgan tobora qobiliyatli open-weight modellar borasidagi kengroq xavotirlar kuchaygan bir paytda yangradi. Bu jarayonlarning o‘zi ham AQShda kuchli AI modellari OpenAI kabi kompaniyalar tomonidan yopiq, mulkiy shaklda saqlanganda xavfsizroq bo‘ladimi yoki kengroq foydalanish va tekshiruvga imkon beradigan ochiqroq ekotizim orqali taqdim etilgani ma’qulmi, degan bahsni kuchaytirdi.
Shunga o‘xshash materiallarni shaxsiy bosh sahifangiz lentasida ko‘rish va elektron pochta orqali yangilanishlar olish uchun ushbu maqoladagi mavzular va mualliflarni kuzating.
Robert Hart