AI laboratoriyalar ichki auditorlarni izlamoqda — ammo avval “eshik”larni yopib olish kerak
Nazoratdan chiqib ketayotgan agentlar muammosini hal qilishning ancha sodda va samaraliroq yo‘li ko‘z o‘ngimizda turibdi.
Nazoratdan chiqib ketayotgan agentlar muammosini hal qilishning ancha sodda va samaraliroq yo‘li ko‘z o‘ngimizda turibdi.
O‘tgan dam olish kunlari tadqiqotchilaridan biri AI insoniyatning yo‘q bo‘lib ketishiga olib kelishi mumkinligidan xavotirlanib ishdan ketganidan so‘ng, Anthropic bosh direktori Dario Amodei tashqi tashkilotlar “xavfsizlik amaliyotlari va majburiyatlariga rioya qilinayotganini tekshirishi, hodisalar haqida xabar berishi, shuningdek, nafaqat tayyor AI modellarining, balki ularni o‘qitish jarayonlari va infratuzilmasining maqsadga muvofiqligini baholashga yordam berishi” kerakligini yozdi. OpenAI, Google va SpaceXAI rahbarlari Amodei rejasini allaqachon qo‘llab-quvvatladi. Bu taklif tez orada shakllanayotgan AI xavfsizligi tashabbusining asosiy yo‘nalishlaridan biriga aylandi.
Biroq muammoni hal qilishning bundan ham sodda va samarali yo‘li bor. Internet xavfsizligi mutaxassislarining aytishicha, laboratoriyalar avvalo tarmoq xavfsizligining eng oddiy talablariga — loglar va ruxsatlarni to‘g‘ri boshqarishga — e’tibor qaratishi kerak. Inson foydalanuvchilarini himoya qilishda qo‘llanadigan qat’iy choralar AI agentlariga nisbatan ham tatbiq etilishi lozim. Bu uchinchi tomon auditi yoki AI maqsadlariga mosligini tekshirish kabi ishlar qadar jozibador ko‘rinmasligi mumkin, ammo amalda samaraliroq chiqishi ehtimol.
“Menimcha, ular muammoni tashqariga topshirishga urinmoqda”, dedi Luta Security bosh direktori Katie Moussouris Amodei taklifi haqida TechCrunch nashriga. “Uchinchi tomon auditi yechim bo‘ladi, deyish menga g‘alati tuyuladi. Bu xuddi Microsoft 2002-yilda Trustworthy Computing Memo’ni yozish o‘rniga: ‘Rivojlanishni sekinlashtiraylik’, deganida qanday bo‘lardi — shunga o‘xshaydi.”
O‘sha memorandumni Microsoft’ning o‘sha paytdagi bosh direktori Bill Gates 2002-yilda yozgan. U paytda keng tarqalgan kompyuter qurtlari endigina rivojlanayotgan korporativ tizimlarni egallab olayotgan edi. Gates xodimlarni dasturiy ta’minot ishonchli va xavfsiz bo‘lishini ta’minlashga chaqirgan. AI sohasi ham yangi texnologiyaning qiymati va xavfi tobora aniq ko‘rinib borayotgan bir paytda shunga o‘xshash burilish nuqtasiga yaqinlashmoqda.
AI xatti-harakatlarini inson maqsadlariga moslashtirish muhim masala bo‘lib qolmoqda. Biroq kelasi yildan UC Berkeley’da professor bo‘lib ishlaydigan AI tadqiqotchisi Sayash Kapoorning fikricha, “nazoratga yo‘naltirilgan qo‘shimcha sarmoyalar maqsadga muvofiqlikni ta’minlashga sarflanadigan mablag‘larga qaraganda samaraliroq bo‘lishi mumkin. Bu hodisalar kompaniyalarda AI ustidan nazoratga yetarlicha e’tibor berilmayotganini ko‘rsatadi. Holbuki, buning uchun allaqachon ma’lum usullar mavjud.”
Bu xavotirlarni kuchaytirgan hodisalarda ilg‘or modellar odatda kiberxavfsizlik sinovlari kabi o‘quv topshiriqlarini bajarishga jalb qilingan. Keyin esa ular ochiq internetga chiqib, topshiriqni bajarish uchun uchinchi tomonlarning yopiq tizimlariga kirishga uringan. Bunga ko‘pincha agentlarni tashqi muhitdan ajratib turishi kerak bo‘lgan “sandbox”lar noto‘g‘ri sozlangani sabab bo‘lgan. Hatto Anthropic agentlaridan birining cheklovdan chiqib ketishi ham uchinchi tomon tekshiruvchilari kerakli “eshik”lardan birini yopmagani tufayli yuz bergan.
“Bizning sohamiz internetga kirishni to‘sishni biladi”, dedi xavfsizlik kompaniyasi Tailscale bosh direktori Avery Pennarun. “Bunday uzun hisobotlarni o‘qisangiz, ‘Voy, bu juda ta’sirli, ko‘p bosqichli hujum bo‘lgan’, degan gaplarni ko‘rasiz. Ammo masalaning mohiyati oddiy: siz agentga fayllarni yuklab olish imkonini bergansiz. Buni internetga kirishdan alohida tarzda ham taqiqlash kerak edi.”
Bu muammolardan biri. Ammo undan ham kattaroq muammo — ilg‘or AI laboratoriyalari agentlarining bunday harakatlaridan bexabar bo‘lgan.
Agentlarni kuzatish
“Eng hayratlanarlisi shuki, agentlar nima qilayotganini aniqlashning barcha holatlarida bunga yo jabrlanuvchi nimanidir payqagani, yo boshqa vaziyatlarda tarmoqdagi faollik sabab bo‘lgan. Hech biri AIning o‘zini bevosita kuzatish orqali aniqlanmagan”, dedi Moussouris.
Bir holatda OpenAI agentlari sinovlardan aldab o‘tish uchun Germaniyada faoliyatini to‘xtatgan wiki-forumni egallab olgan. Kompaniyada kimdir buni payqashidan oldin agentlar bir necha hafta davomida faol bo‘lgan. TechCrunch suhbatlashgan xavfsizlik mutaxassislarining aytishicha, kelajakdagi bunday chiqib ketishlarning oldini olish uchun real vaqt rejimidagi monitoring muhim. Har bir agent sessiyasiga vaqt chegarasi qo‘yilishi va muddat tugagach, u avtomatik yakunlanishi kerak.