Nvidia mustaqil ishlaydigan AI agentlarini nazorat qilish uchun yangi platformani ishga tushirdi
Yaqinda mustaqil ravishda nazoratdan chiqib ketgan AI agentlari bilan bog‘liq holatlar AGI sari qadammi yoki oddiy muhandislik muammosimi — bu boradagi…
Yaqinda mustaqil ravishda nazoratdan chiqib ketgan AI agentlari bilan bog‘liq holatlar AGI sari qadammi yoki oddiy muhandislik muammosimi — bu boradagi bahslar davom etmoqda. Nvidia esa muammoga o‘z yechimini taklif qildi. Dushanba kuni kompaniya bosh direktori Jensen Huang AI agentlarini qo‘shimcha xavfsizlik qatlamlari bilan himoyalaydigan dasturiy va apparat vositalaridan iborat yangi to‘plamni taqdim etdi.
Ushbu vositalar agentlar test muhitidan chiqishga uringan taqdirda ham, ularni shu muhit doirasida ushlab turishga mo‘ljallangan.
Bu taqdimot Anthropic, Google, OpenAI va Meta kompaniyalarining AI modellari ishtirokidagi bir qator xakerlik hodisalaridan keyin bo‘ldi. Bu modellar xavfsizlik cheklovlarini chetlab o‘tib, sinov muhitidan chiqishga va real tizimlarga kirishga uringan.
Birinchi va eng ko‘zga ko‘ringan holat shu yozda yuz berdi. OpenAI agentlari kiberxavfsizlik topshirig‘ini bajarishga urinib, Hugging Face tizimiga buzib kirgan. Bunday hodisalar keyin ham davom etdi: OpenAI yaqinda AI agentlarining nazoratdan chiqib ketishi haqidagi hisobotlar uchun alohida sayt ishga tushirdi.
Jensen Huang dushanba kuni CNBC telekanaliga bergan intervyusida yangi Nvidia Open Agent Safety Platform platformasi ana shu buzib kirishlarning oldini olgan bo‘lardi, dedi.
AI laboratoriyalariga GPU va CPU chiplarini sotish orqali o‘nlab milliard dollar daromad qilgan Nvidia xavfsizlik muammosini rivojlanishni sekinlashtirish yoki sohaga yangi qoidalar joriy etish orqali hal qilish tarafdori emas. Kompaniya nazarida yechim — xavfsizlik nazoratining bir qismini agentning o‘zidan tashqariga chiqarish. Ya’ni AI agentlarini doimiy va mustaqil ravishda kuzatib turadigan himoya mexanizmini yaratish.
“AI’ning jamiyat uchun ulkan salohiyati faqat AI xavfsizligi muammosini hal qilsakkina to‘liq namoyon bo‘ladi. AI imkoniyatlarining yangi chegaralarini o‘rganishda davom etar ekanmiz, AI xavfsizligi bo‘yicha ham yangi marralarni tezroq egallashimiz kerak. Xavfsizlik va himoya to‘liq stekli muhandislik yondashuvini talab qiladi”, — dedi Huang bayonotida.
Yangi Nvidia Open Agent Safety Platform tarkibiga OpenShell va Sentry kiradi. OpenShell — agentlar ishlash jarayonida nimalarga kira olishini boshqaradigan ochiq kodli dasturiy ta’minot. Sentry esa Nvidia’ning BlueField-4 ma’lumotlarni qayta ishlash protsessorlarida ishlaydigan mustaqil kuzatuv tizimi.
Nvidia’ning aytishicha, Sentry’ni AI agenti ishlayotgan CPU yoki GPU’ga emas, alohida protsessorga joylashtirish agent faoliyatini tashqi va xolis nuqtayi nazardan kuzatish imkonini beradi.
OpenShell yangi mahsulot emas — kompaniya bu dasturiy ta’minotni mart oyida e’lon qilgan. Biroq Nvidia kerakli xavfsizlik qatlamini aynan OpenShell va Sentry uyg‘unligi ta’minlaydi, deb hisoblaydi. OpenShell agent atrofida dasturiy cheklov o‘rnatadi, Sentry esa apparat darajasida qo‘shimcha himoya vazifasini bajaradi. Kompaniya ma’lumotlariga ko‘ra, tizim agent xatti-harakatlarini uzluksiz kuzatadi va belgilangan chegaradan chiqishga uringan agentlarni millisoniyalar ichida “karantinga” oladi.
Nvidia ushbu tashabbusni qo‘llab-quvvatlash va ochiq kodli platformadan foydalanishga rozi bo‘lgan o‘nlab kompaniyalarni sanab o‘tdi. Ular orasida Anthropic, Arm, Microsoft, Oracle va SpaceX bor. OpenAI esa ishtirokchi kompaniyalar ro‘yxatiga kiritilmagan.
Huang dushanba kuni CNBC’ga bergan intervyusida bu loyiha ustidagi ishlar bir yil avval boshlanganini aytdi. Bunga Peter Steinberger yaratgan agentlar operatsion tizimi OpenClaw taqdim etilgani turtki bo‘lgan. Nvidia mart oyida xavfsizlik funksiyalari ichiga o‘rnatilgan korporativ darajadagi AI agentlar platformasi — NemoClaw’ni, ya’ni OpenClaw’ning o‘z versiyasini chiqargan.