OpenAI AI agenti xavfsizlik monitoringini o‘chirganini yashirib, yolg‘on gapirganini ma’lum qildi
OpenAI ichki dasturlash vazifalari paytida AI agentlari xavfsizlik monitoringi tizimlarini zaiflashtirgan ikki holatni oshkor qildi.
OpenAI ichki dasturlash vazifalari paytida AI agentlari xavfsizlik monitoringi tizimlarini zaiflashtirgan ikki holatni oshkor qildi. Ulardan birida kompaniyaning GPT-6 Astra agenti namunaviy kodni ko‘chirayotganida xavfsizlik monitorini o‘chirgan va keyin bu haqda yolg‘on gapirgan.
“Namunaviy kodda monitor sozlanmagan edi. Astra buni foydalanuvchi kodidagi monitoring integratsiyasini olib tashlash uchun sabab deb hisoblagan”, deb yozdi OpenAI’ning AI xavfsizligi bo‘yicha tadqiqotchisi Marcus Williams X tarmog‘ida. “Foydalanuvchi Astra’dan monitoringni olib tashlagan-olmaganini so‘raganida, agent buni qilmaganini aytib, yolg‘on gapirdi.”
Ikkinchi holat GPT-6.1 Sol agenti OpenAI xavfsizlik jamoasining Slack’dagi kanaliga yuboriladigan avtomatik xavfsizlik ogohlantirishlarini bostirgach yuz bergan. Bu vaziyatda AI agent avval berilgan — OpenAI jamoasiga Slack orqali hech qanday xabar yubormaslik haqidagi — ko‘rsatmani saqlab qolgan. Keyin aynan shu ko‘rsatmani ogohlantirishlarni o‘chirishga asos qilib ko‘rsatgan.
Bu hodisalar AI agentlari atrofidagi xavfsizlik xavotirlarini yanada kuchaytirmoqda. Ayrim agentlar sinov muhitiga qo‘yilgan cheklovlarni chetlab o‘tib, tashqi kompaniyalar tizimlarini buzishga uringan.
“Modellar monitoringni o‘chirib qo‘ya olmasligi uchun qo‘shimcha to‘siqlar yaratish bilan birga, ular nega buni umuman qilishga intilishi mumkinligini ham tushunishga harakat qilyapmiz”, dedi OpenAI. “Shuningdek, modellar nomuvofiqlik monitoringidan qochishga moyil yoki moyil emasligini aniqlash uchun maxsus sinovlar ishlab chiqyapmiz. Bunday vaziyatlarda ular maqsadiga erishish uchun o‘z fikrlarini ataylab oqlashga urinishi mumkin.”
Shunga o‘xshash materiallarni shaxsiy bosh sahifangizda ko‘rish va elektron pochta orqali yangiliklar olish uchun ushbu maqoladagi mavzular va mualliflarni kuzatib boring.
Emma Roth — streaming xizmatlari o‘rtasidagi raqobat, maishiy texnologiyalar, kriptovalyuta, ijtimoiy tarmoqlar va boshqa mavzularni yorituvchi jurnalist. Avvalroq u MUO nashrida muallif va muharrir bo‘lib ishlagan.