Nvidia’ning zararli AI agentlariga chek qo‘yish tashabbusida OpenAI nega yo‘q?
OpenAI Nvidia’ning Open Agent Safety Platform tashabbusini ommaviy ravishda qo‘llab-quvvatlamayapti.
OpenAI Nvidia’ning Open Agent Safety Platform tashabbusini ommaviy ravishda qo‘llab-quvvatlamayapti. Biroq TechCrunch aniqlashicha, kompaniya Nvidia bilan bu yo‘nalishda yopiq tarzda hamkorlik qilmoqda.
Dushanba kuni Nvidia zararli xatti-harakatlarga o‘tib ketadigan AI agentlari muammosini hal qilishga qaratilgan, 100 dan ortiq kompaniyani birlashtirgan yangi konsorsiumni e’lon qildi. Tashabbus ishtirokchilari ro‘yxatida esa OpenAI yo‘q edi.
OpenAI yagona yirik texnologik kompaniya emas: Amazon, Google va Apple ham konsorsiumga qo‘shilmagan. Shunga qaramay, aynan OpenAI’ning yo‘qligi ko‘proq ko‘zga tashlandi. Buning asosiy sababi — kompaniyaning asosiy raqibi Anthropic tashabbusni qo‘llab-quvvatlagani.
OpenAI konsorsiumni rasman qo‘llab-quvvatlashga va’da bermagan bo‘lsa-da, kompaniya vakili TechCrunch’ga OpenAI Nvidia’ning ishini ma’qullashini aytdi. Odatda bunday va’da kompaniya ushbu texnologiyaning ma’lum bir versiyasidan foydalanishi va uni sotishi, shuningdek, o‘z funksiyalarini loyihaga qo‘shishini anglatadi.
Nvidia Open Agent Safety Platform deb nomlagan yangi tashabbus kompaniyaning o‘zida ishlab chiqilgan, asosan ochiq kodli AI agentlari xavfsizligi texnologiyalarini butun AI ekotizimiga yoyishga qaratilgan. Bu, xususan, Anthropic va OpenAI kabi ilg‘or AI laboratoriyalari oshkor qilgan zararli AI agentlari bilan bog‘liq hodisalarga javob sifatida yaratilgan.
Nvidia bosh direktori Jensen Huang zararli xatti-harakat qiladigan AI tizimlarini boshqa texnologik muammolar singari muhandislik yondashuvi bilan hal qilish mumkin bo‘lgan oddiy masala deb keladi. Open Agent Safety Platform esa Huang bu fikrini amalda tasdiqlayotganini ko‘rsatadi.
OpenAI agentlar xavfsizligi bo‘yicha Nvidia bilan hamkorlik qilmoqda. Bu hamkorlik platformaning asosiy qismlaridan biri — OpenShell dasturini ham qamrab oladi. OpenShell — agentlar belgilangan muhitdan chiqib keta olmasligi uchun maxsus “sandbox”, ya’ni izolyatsiya qilingan xavfsiz muhit yaratadigan ochiq kodli dastur.
OpenAI nega Anthropic kabi tashabbusning rasman tarafdori bo‘lmagani hanuz savol tug‘diradi. Ammo bu ilg‘or AI laboratoriyasi loyihani amalda qo‘llab-quvvatlayotgani yaxshi yangilik.
Hugging Face asoschisi va bosh direktori Clem Delangue fikricha, ayniqsa OpenAI bunday texnologiyadan katta foyda ko‘rishi mumkin. Delangue kompaniyasini shu oy boshida Nvidia’ga 12,9 milliard dollarga sotgan edi.
“Biz bilgan ma’lumotlarga ko‘ra — buni ehtiyotkorlik bilan qabul qilish kerak, chunki ancha ko‘proq shaffoflik zarur — agar @OpenAI bu tizimni bizga hujum qilgan o‘z agentlarida ishlatganida, ularni bizdan oldinroq aniqlagan bo‘lardi!” deb yozdi Delangue.
Delangue’ning aytishicha, Hugging Face allaqachon Open Agent Safety Platform’ga yangi funksiya qo‘shgan. U agentlar kirishga ruxsat berilgan saytlardan foydalansa-da, buni taqiqlangan usulda amalga oshirayotganini aniqlaydi va bunday agentlarni to‘xtatadi.
Masalan, agentlar o‘z xavfsizlik cheklovlarini chetlab o‘tib, ochiq kodli dasturlar joylashtiriladigan repository’da bir-biriga yozuv qoldirish orqali hujumni muvofiqlashtirsa, ushbu funksiya ishga tushadi.