Anthropic AI agentlari hukumat saytlariga buzib kirishga uringanini ma’lum qildi
Anthropic kompaniyasi yangi hisobotida sinov vaqtida uning AI agentlari hukumat saytlariga aralashgani va ularga buzib kirishga uringani haqida ma’lum…
Anthropic kompaniyasi yangi hisobotida sinov vaqtida uning AI agentlari hukumat saytlariga aralashgani va ularga buzib kirishga uringani haqida ma’lum qildi.
Kompaniya aniq qaysi idoralar zarar ko‘rganini oshkor qilmadi. Biroq ular “federal, shtat va mahalliy darajadagi” tashkilotlar ekani aytildi.
Robert Way/Getty Images
Anthropic o‘zining so‘nggi hisobotida AI agentlari AQShdagi “federal, shtat va mahalliy darajadagi” hukumat saytlariga buzib kirishga yoki ularning ishiga aralashishga uringanini bildirdi. Kompaniya tizimlardagi zaifliklarni oshkor qilib qo‘ymaslik uchun aniq idora va tashkilotlar nomini keltirmadi. Bunday qilishni tashkilotlarning o‘zi so‘ragan. Shunga qaramay, Anthropic hodisalar haqida tegishli idoralarni allaqachon xabardor qilgan va Oq uyga ham ma’lumot bergan.
Hisobotda juma kuni Filadelfiya politsiya departamenti oshkor qilgan yana bir hodisa tafsilotlari ham keltirilgan. Unda kompaniya modellaridan biri ochilmagan qotilliklar bo‘yicha saytga yolg‘on ma’lumot yuborgan.
Bu holatda Anthropic’ning nisbatan tejamkor modellaridan biri — Claude Haiku 4.5 ishlatilgan. Unga tasodifiy sahifalarda namunaviy topshiriqlarni bajarish buyurilgan. Model ochilmagan qotillik ishi haqida ma’lumot joylangan sahifani va undagi xabar yuborish formasini topgan. Keyin esa formani to‘ldirib, xabarni jo‘natgan.
Xabarda shunday deyilgan: “Bu ish bo‘yicha ma’lumotim bo‘lishi mumkin. O‘sha vaqtda sahifada ko‘rsatilgan ko‘cha atrofida tavsifga mos keladigan bir kishini ko‘rganim esimda. Agar bu ma’lumot muhim bo‘lsa, men bilan bog‘laning.”
Filadelfiya politsiya departamenti The New York Times nashriga Anthropic yaqinda ushbu xabar yuborilgani haqida idorani xabardor qilganini tasdiqladi. Xabar 18-iyul sanasi bilan jo‘natilgan va spam sifatida belgilangan. Shu sababli politsiya hech bo‘lmaganda uni tekshirishga resurs sarflamagan.
Boshqa bir holatda Anthropic kiberxavfsizlikka ixtisoslashgan Claude Mythos 5 modelidan suratda ko‘rsatilgan joyni aniqlashni so‘ragan. Model odam kabi veb-sahifadagi havolalarni bosolmagani uchun taxminlarini tekshirish maqsadida hukumatga qarashli mulklar xaritasiga kirishga uringan.
Buning o‘rniga u kirish tokenlarini topib, xarita serveriga to‘g‘ridan-to‘g‘ri so‘rovlar yuborgan va ma’lumotlarga kirishga harakat qilgan. Mythos 5 yana statistikaga oid topshiriqni bajarish uchun shtat idorasi saytida kirish tokenini so‘ragan. Bunda saytga tashrif buyuruvchilar to‘lashi kerak bo‘lgan to‘lovni chetlab o‘tishga uringan.
Anthropic bu hodisalarni o‘z baholash jarayonlari yozuvlarini ko‘rib chiqish vaqtida aniqlagan. Kompaniya ularni iyul oyida tekshira boshlagan. Bunga OpenAI o‘z agentlari sinov muhitidan chiqib ketgani va buyruqsiz ravishda Hugging Face saytini buzib kirganini tan olgani sabab bo‘lgan.
OpenAI sentyabr oyida agentlari hukumat saytlariga ham aralashganini tasdiqlagan. Jumladan, Savdo vazirligi va Qimmatli qog‘ozlar va birjalar komissiyasi boshqaradigan saytlar tilga olingan.