OpenAI agentlari BMT saytiga “bruteforce” hujumi uyushtirishga urindi
Nyu-Yorkdagi BMT bosh qarorgohi tashqarisidagi darvozada BMT logotipi. | AFP via Getty Images
Nyu-Yorkdagi BMT bosh qarorgohi tashqarisidagi darvozada BMT logotipi. | AFP via Getty Images
Kiberxavfsizlik tadqiqotchisi Rowan Howard-Jones ma’lum qilishicha, OpenAI agentlari aprel va iyun oylari oralig‘ida BMTning Savdo va taraqqiyot konferensiyasiga (UNCTAD) tegishli statistika saytini 16 ming martadan ko‘proq skanerlagan. Bu hodisa Hugging Face’ga qilingan buzib kirish yoki yaqinda AQSh hukumat saytlariga uyushtirilgan hujumlar darajasiga yetmasa-da, AI agentlari topshiriqni bajarish uchun odatiy chegaralardan chiqib ketayotganini ko‘rsatuvchi yana bir xavotirli misoldir.
Rowan Howard-Jonesning fikricha, agentlarga UNCTADstat API orqali Mahsuldor salohiyat indeksi (PCI) bilan bog‘liq, ommaga ochiq ma’lumotlarni yig‘ish topshirilgan bo‘lishi mumkin. Biroq agentlar API’ga to‘g‘ridan-to‘g‘ri kira olmagan. Bundan tashqari, HTTP vositalaridagi cheklovlar sababli UNCTADstat’dan ma’lumot olish imkoniyati ham toraygan.
Oxir-oqibat agentlar bu cheklovlarni chetlab o‘tib, saytdan ma’lumot yig‘ish yo‘lini topgan. Ammo jarayon davomida ayrim xatolarga duch kelgan. Shu bosqichda AI ijodkorlikdan aldovga o‘ta boshlagan. Agent xatolarni aslida mavjud bo‘lmagan filtr uning so‘rovlarini ushlab qolayotgani bilan izohlagan va o‘z harakatlarini yashirishga uringan.
Keyin u maqsadiga erishish uchun Google’ning XSS o‘yinidan foydalanish mumkinligini anglagan. XSS — saytlararo skriptlashni o‘rgatuvchi vosita. Shundan so‘ng agentlar BMT ma’lumotlariga kirish uchun tobora tajovuzkor usullardan foydalangan.
OpenAI ham, BMT ham izoh so‘rab yuborilgan murojaatga darhol javob bermadi.
Shu mavzu va muallifni kuzatib boring: shunga o‘xshash materiallar shaxsiy bosh sahifangiz lentasida ko‘rinadi va yangi maqolalar haqida elektron pochta orqali xabar olasiz.
Terrence O’Brien — The Verge nashrining dam olish kunlari muharriri. U texnologiya sanoatini 18 yildan ortiq vaqt davomida yoritib keladi va sintezatorlar haqida ham ancha biladi.