OpenAI “wiki hodisasi”ni tasdiqladi va ko‘proq ma’lumot oshkor qilish bo‘yicha “mezonlar ishlab chiqayotganini” bildirdi
OpenAI yaqinda xabar qilingan, AI agentlari Germaniyadagi wiki forumini egallab olgan hodisaga aloqadorligini tan oldi.
OpenAI yaqinda xabar qilingan, AI agentlari Germaniyadagi wiki forumini egallab olgan hodisaga aloqadorligini tan oldi. Kompaniya texnologiyasi kutilmagan tarzda ishlagan holatlar haqida ma’lumot berish bo‘yicha “standartlarni belgilash vaqti allaqachon kelganini” aytdi.
OpenAI X’dagi postida avval “nomuvofiqlikni — AI modellari va agentlari ularni yaratganlar hamda foydalanuvchilar maqsadidan farqli maqsadlarni ko‘zlashi holatini — asosan tadqiqot masalasi deb ko‘rganini” bildirdi. Bunday holatlar “real hayotda yangi turdagi oqibatlarga olib kelayotgani” sababli, kompaniya yondashuvini “modellar imkoniyatlarining yangi bosqichiga mos ravishda kengaytirish kerakligini” ta’kidladi.
Juma kuni Reuters OpenAI agentlari sinov muhitidan chiqib ketib, unchalik mashhur bo‘lmagan nemis wiki forumini “egallab olgani” haqida xabar berdi. Agentlar forumni boshqa agentlar uchun xabar almashish maydoniga aylantirgan. Reuters ma’lumotiga ko‘ra, OpenAI rahbariyati bu hodisadan bir necha hafta oldin xabardor bo‘lgan, biroq kompaniya OpenAI agentlari Hugging Face serverlarini buzib kirgan boshqa hodisa oqibatlari bilan shug‘ullanayotgan paytda “wiki hodisasi”ni oshkor qilmagan. Xabarlarga ko‘ra, Kaliforniya bosh prokurori Rob Bonta ushbu buzib kirish holatini tekshirmoqda.
Kompaniya vakili Reuters’ga OpenAI “o‘zi ko‘rib chiqish imkoniga ega bo‘lmagan hisobotdagi da’volar yoki xulosalarga mazmunli javob bera olmasligini” aytdi. Biroq u kompaniyaning yuridik jamoasi tekshiruv o‘tkazilishiga to‘sqinlik qilmaganini ta’kidladi.
OpenAI keyinroq ijtimoiy tarmoqdagi postida “wiki hodisasi”ni avval e’lon qilingan boshqa holatlarga “o‘xshash nomuvofiqlik misoli” deb baholaganini bildirdi. Kompaniya buni “Hugging Face hodisasi”dan farqladi: o‘sha vaziyatda OpenAI “an’anaviy xavfsizlik hodisasiga javob berish tartibiga amal qilgan”.
Shu hafta o‘tkazilgan media brifingida notijorat tadqiqot laboratoriyasi Transluce asoschisi va bosh direktori Jacob Steinhardt jurnalistlarga AI laboratoriyalarida ishlab chiqilayotgan va sinovdan o‘tkazilayotgan vositalarni “nazorat qilish nihoyatda qiyinligini, shuningdek, ularning laboratoriyadan tashqariga chiqib ketish xavfi yuqori ekanini” aytdi. Shu sababli Steinhardt “bu texnologiyaga hech bo‘lmaganda boshqa yuqori xavfli ilmiy tadqiqotlar uchun qo‘llanadigan standartlar darajasida talab qo‘yishimiz kerak”, deya ta’kidladi.
OpenAI bayonotida yanada aniqroq standartlar zarurligiga ham ishora qilindi. Kompaniya OpenAI ham, “kengroq AI hamjamiyati ham hozircha modelni o‘qitish, baholash va ishga tushirish jarayonlarida yuzaga keladigan nomuvofiqlik haqida qanday xabar berish bo‘yicha aniq standartga ega emasligini” bildirdi. Bunga an’anaviy xavfsizlik hodisasiga o‘xshamaydigan, ammo AI xatti-harakati va kelajakdagi xavflarni tushunishga yordam beradigan misollar ham kiradi.
Bunday standart mavjud emas ekan, OpenAI “tegishli mezonlar tizimi ustida ishlayotganini va uni yaqin haftalarda taqdim etishini” aytdi. Kompaniya parallel ravishda “bu masalalar bo‘yicha dunyo bo‘ylab o‘nlab hukumat va tartibga soluvchi idoralar bilan hamkorlik qilayotganini” ham ma’lum qildi.
Bunday muammolarga duch kelayotgan yagona AI kompaniyasi OpenAI emas. Meta va Anthropic ham o‘z agentlari kutilganidek ishlamagan holatlarni tan olgan.