Anthropic’ning Claude AI’i Filadelfiyadagi ochilmagan qotillik ishi bo‘yicha yolg‘on xabar yubordi: politsiya «bu ishlar ortida haqiqiy qurbonlar va motam tutayotgan oilalar bor» deya ogohlantirdi
Anthropic va huquq-tartibot idoralari ma’lum qilishicha, voqea 18-iyul kuni yuz bergan.
Anthropic va huquq-tartibot idoralari ma’lum qilishicha, voqea 18-iyul kuni yuz bergan. O‘sha paytda Claude Haiku 4.5 modeli tasodifiy tanlangan veb-sahifalarda namunaviy topshiriqlarni yaratish va bajarishga yo‘naltirilgan.
Anthropic’ning sun’iy intellekt modeli Filadelfiya politsiyasi saytiga ochilmagan qotillik ishi haqida yolg‘on xabar yuborgan. Bu haqda mahalliy rasmiylar va Anthropic ma’lum qildi.
Bu AI modellari sinov vaqtida kutilmagan tarzda harakat qilib, davlat va boshqa tashkilotlar saytlariga turli ma’lumotlarni yuborayotganining navbatdagi misolidir. Anthropic juma kuni e’lon qilgan hisobotida yana bir alohida holatni ham oshkor qildi: kompaniya modeli noma’lum davlat idorasi saytida shakllarni to‘ldirib, ularni yuborishdan oldin to‘xtash o‘rniga jo‘natgan.
Filadelfiyadagi hodisa 18-iyul kuni sodir bo‘lgan. Anthropic ma’lumotiga ko‘ra, o‘sha paytda Claude Haiku 4.5 tasodifiy tanlangan veb-sahifalarda turli topshiriqlarni yaratish va bajarishga moslashtirilgan edi.
Claude politsiyaning PhillyUnsolvedMurders.com saytida joylashtirilgan ochilmagan qotillik ishlaridan biri bo‘yicha ma’lumotga ega bo‘lishi mumkinligini ko‘rsatib, maxsus shaklni to‘ldirgan.
Filadelfiya politsiyasi bayonotida hodisadan Anthropic chorshanba kuni xabar berganidan keyingina xabardor bo‘lganini aytdi. Shundan so‘ng politsiya saytga kelib tushgan xabarlar qaydlarini tekshirdi va ushbu murojaat spam sifatida belgilanganini, shu sababli politsiyaga yuborilmaganini tasdiqladi.
AI kompaniyalarining mustaqil ishlaydigan agentlari AQSh davlat saytlaridan tortib tibbiy ma’lumotlargacha bo‘lgan turli tizimlarga aralashayotgani tobora ko‘proq xavotir uyg‘otmoqda. Tanqidchilar bunday texnologiyalarni qat’iyroq tartibga solishga chaqirmoqda.
Sentabr oyida yana bir AI kompaniyasi — OpenAI — sun’iy intellekt modellarida kuzatilgan «kutilmagan yoki xavotirli» xatti-harakatlarga oid oltita holatni oshkor qilgan edi.
«Ochilmagan ishlar ortida haqiqiy qurbonlar, motam tutayotgan oilalar va javob topish uchun mehnat qilayotgan tergovchilar turadi», — deyiladi Filadelfiya politsiya departamenti bayonotida. «Texnologiya kompaniyalari o‘z tizimlari huquqni muhofaza qiluvchi idoralarga yolg‘on ma’lumot yubormasligi uchun barcha zarur choralarni ko‘rishi shart».
Anthropic hisobotida qayd etilishicha, bildirilgan holatlarning aksariyati kompaniya «qat’iyatlilik» deb ataydigan xatti-harakatlar turiga kiradi. Ya’ni Claude berilgan topshiriqni bajara olmaganida, to‘xtash o‘rniga mavjud cheklovni aylanib o‘tishga urinadi.
Kompaniya bunday nomaqbul xatti-harakatlar takrorlanish ehtimolini kamaytirish uchun modelni o‘qitish usullarini o‘zgartirayotganini bildirdi.
Anthropic AQSh federal, shtat va mahalliy darajadagi davlat idoralari bilan bog‘liq holatlar haqida Oq uyga ma’lumot berganini aytdi. Shuningdek, har bir voqeaga aloqador idoralar ham xabardor qilingan.