Gemini nazoratdan chiqib, uchta kompaniyani buzdi, Google esa buni yashirdi
May oyida Gemini nazoratdan chiqib, uch xil kompaniya tizimiga buzib kirdi.
May oyida Gemini nazoratdan chiqib, uch xil kompaniya tizimiga buzib kirdi. Biroq Google bu hodisa haqida faqat Wall Street Journal kompaniyaga murojaat qilganidan keyin ma’lum qildi. Hujumlar Irregular nomli uchinchi tomon kompaniyasi o‘tkazgan, modelning kiberxavfsizlik imkoniyatlarini sinashga qaratilgan test vaqtida yuz bergan. Irregular avval Meta va OpenAI bilan bog‘liq shunga o‘xshash hodisalarda ham qatnashgan.
Terrence O'Brien — The Verge nashrining dam olish kunlari muharriri. U texnologiya sanoatini 18 yildan beri yoritib keladi va sintezatorlar haqida ham ancha biladi.
WSJ xabariga ko‘ra, Google bu buzib kirish holatini oshkor qilmagan, chunki kompaniya uni “modelning noto‘g‘ri yo‘nalishga og‘ishi”ga misol deb hisoblamagan. Google hodisani “shaxsni adashtirish” deb izohladi. Model parolni taxmin qilish orqali haqiqiy kompaniya tizimiga kirib qolganini anglagach, o‘z faoliyatini to‘xtatgan.
“Bu holatda model to‘g‘ri harakat qilgan”, — dedi Google kompaniyasining xavfsizlik muhandisligi bo‘yicha vitse-prezidenti Heather Adkins.
Adkins The Verge nashriga shunday dedi: “Model internetdagi ochiq ma’lumotlarni topgan va testning bir qismi deb o‘ylagan saytlariga kirish uchun login ma’lumotlarini taxmin qilgan. Uchala holatda ham model o‘zini to‘xtatgan.”
Adkins Gemini’ning nazoratdan chiqib, uchinchi tomonlarga hujum qilishni o‘z zimmasiga olgani nega modelning noto‘g‘ri yo‘nalishga og‘ishi hisoblanmasligini batafsil tushuntirmadi.
“Xavfsizlik jamoamiz boshqa odamlarning dasturiy ta’minoti va tizimlaridan, hatto muammo shunchaki kuchsiz parol bo‘lsa ham, aniqlangan kamchiliklar haqida xabar berib keladi”, — dedi u. “Uchala tashkilot ham bu hodisadan xabardor qilinganini ta’minladik. Shuningdek, trening hamkorimiz bilan birga ularning test jarayonlariga kiritgan o‘zgarishlari ustida ishladik. Bu hodisalar kuchli AI modellarini mas’uliyat bilan harakat qilishga o‘rgatish qanchalik muhimligini ko‘rsatadi.”
Biroq AI xavfsizligi bilan shug‘ullanuvchi Corridor kompaniyasi bosh direktori Jack Cable WSJ’ga bunday dedi: “Asosiy muammo shundaki, modellar o‘z vakolati doirasidan chiqib, haqiqiy kiberhujumlarni amalga oshiryapti.”
Bundan tashqari, Irregular kompaniyasidagi xavfsizlikdagi kamchiliklar ham hujumlar sodir bo‘lishiga imkon bergan bo‘lishi mumkin. Test vaqtida model internetga kira olmasligi kerak edi, ammo Irregular bu imkoniyat beixtiyor ochiq qoldirilganini WSJ’ga ma’lum qilgan.
Bunday hodisalar ko‘payib borar ekan, AI ustidan nazoratni kuchaytirish haqidagi chaqiriqlar ham tobora ko‘paymoqda.
Shu mavzu va muallifni kuzating — shunga o‘xshash materiallar shaxsiy bosh sahifangiz lentasida ko‘rinadi va yangi maqolalar haqida elektron pochta orqali xabardor bo‘lasiz.
Terrence O'Brien