Anthropic rahbari AI “superintellekti” sari poygani sekinlashtirishga chaqirdi va tashqi baholovchilarga doimiy kirish huquqini berdi
Dario Amodei kompaniya xavfsizlik amaliyotlarini mustaqil baholovchilar uchun doimiy ochib berishini ma’lum qildi.
Dario Amodei kompaniya xavfsizlik amaliyotlarini mustaqil baholovchilar uchun doimiy ochib berishini ma’lum qildi.
Anthropic bosh direktori Dario Amodei AI rivojlanish sur’atini pasaytirish tashabbusi doirasida kompaniya ichida mustaqil baholovchilarga xodimlar darajasidagi doimiy kirish huquqini berishini e’lon qildi. Bu yangi xavfsizlik chorasi kompaniyaning ichki jarayonlarini tashqaridan muntazam tekshirish imkonini beradi.
Amodei shanba kuni e’lon qilingan maqolasida AI rivojlanishini sekinlashtirishga qaratilgan “chegaradagi rivojlanish sur’atini tartibga solish” rejasini bayon qildi.
“AI modellari imkoniyatlarini qanchalik tez oshirayotganimizni sekinlashtirishimiz kerak. Taraqqiyot baribir juda tez kechayotgandek ko‘rinadi, shuning uchun qo‘lga kiritadigan vaqtimizdan oqilona foydalanishimiz zarur”, deb yozdi u.
Uch bosqichli rejaning birinchi qismida Amodei eng ilg‘or AI bilan shug‘ullanuvchi barcha kompaniyalarni mustaqil baholovchilarga doimiy ravishda, kompaniya xodimlarinikiga teng darajadagi kirish huquqini berishga chaqirdi. Bu baholovchilar xavfsizlik amaliyotlarini tekshirishi va yuz bergan hodisalar haqida xabar berishi kerak.
Ikkinchi taklifga ko‘ra, demokratik davlatlardagi kompaniyalar nazoratsiz rivojlanish sur’atini cheklaydigan umumiy xavfsizlik standartlari bo‘yicha kelishib olishi lozim. Uchinchidan, demokratik hukumatlar avtoritar davlatlar bilan ham muvofiqlashtirishga harakat qilishi kerak. Buni barcha tomonlar manfaatdor bo‘lgan kelishuvlardan, masalan, biologik qurollar yaratishda AI’dan foydalanishni taqiqlashdan boshlash mumkin.
Amodei AI rivojlanish sur’ati haqida avval ham ko‘p bor ogohlantirgan. Ammo uning aytishicha, so‘nggi paytda yuz bergan ikki o‘zgarish texnologiya xavfsizligini zudlik bilan kuchaytirish zaruratini oshirdi. Birinchidan, AI modellari tobora ko‘proq o‘zidan keyingi avlod modellarini yaratishga qodir bo‘lib bormoqda. Bu esa taraqqiyot sur’atini yanada tezlashtiryapti. Ikkinchidan, sohada, jumladan Anthropicning o‘zida ham, bir qator xavfsizlik bilan bog‘liq hodisalar yuz berdi.
Amodei model ishlab chiqish sur’atini hech bo‘lmaganda bir necha yilga sekinlashtirish tadqiqotchilarga xatolar va xavfli oqibatlar ehtimolini kamaytirish uchun vaqt berishini yozdi. Uning fikricha, sanoat buni hozirdanoq boshlashi kerak.
Anthropic birinchi bosqichni boshqa kompaniyalarni kutmasdan, darhol amalga oshirishga kirishmoqda. Amodeining aytishicha, mustaqil baholovchilar kompaniya ichida doimiy ishlaydi. Ular Anthropicning o‘z xavflarni baholash guruhlari bilan bir xil darajadagi ma’lumot va tizimlarga kira oladi. Shuningdek, topilmalarini Anthropic tahririy nazoratisiz e’lon qilish huquqiga ega bo‘ladi.
Bu hafta Anthropic AI tadqiqotchisi Jacob Coxon laboratoriyani ommaviy ravishda tark etgani ortidan kompaniya kuchli jamoatchilik e’tiboriga tushdi. Coxon AI kompaniyalari insonlar hayotini xavf ostiga qo‘yayotganini aytdi.
X’dagi iste’fosiga bag‘ishlangan postida Coxon OpenAI va Anthropic kompaniyalarida jami uch yil davomida modellarni dastlabki tayyorlash bo‘yicha tadqiqotlar olib borganini yozdi. “Ikkala kompaniya ham mas’uliyat bilan ish tutmayapti. Ular o‘zini o‘zi takomillashtiradigan superintellekt sari to‘g‘ri poygalashyapti va hayotimizni xavf ostiga qo‘yyapti”, dedi u.
Coxon bunday tizimlar tez orada insondan ustun darajaga yetishini ham ta’kidladi: “Ular istalgan tizimni buzishi, bir kechada istalgan sohani tubdan o‘zgartirishi, real hokimiyat va resurslarni qo‘lga kiritishi mumkin.”