Anthropic rahbari: AI rivojini sekinlashtirish vaqti keldi
Anthropic bosh direktori Dario Amodeining fikricha, AI rivojini biroz sekinlashtirish vaqti keldi.
Anthropic bosh direktori Dario Amodeining fikricha, AI rivojini biroz sekinlashtirish vaqti keldi. Kompaniya xavfsizlik talablariga amal qilayotganini tekshirish uchun METR kabi mustaqil baholovchilarga o‘z modellaridan foydalanish imkonini beradi. Amodei “chegaraviy imkoniyatlar poygasini me’yorlash” deb atagan uch bosqichli rejani taklif qildi. Oddiy qilib aytganda, bu — kompaniyalarga xavfsizlik choralarini ishlab chiqish, nazorat organlariga esa modellarni baholash uchun vaqt berish maqsadida trening va ishlab chiqish sur’atini pasaytirish degani.
Terrence O’Brien — The Verge nashrining dam olish kunlari muharriri. U texnologiya sanoatini 18 yildan ortiq vaqtdan beri yoritib keladi, shuningdek, sintezatorlar haqida ham ancha biladi.
Amodeining aytishicha, tashqi baholovchilarga keng qamrovli kirish huquqini berish — rejaning faqat birinchi bosqichi. Anthropic bu qadamni hozirning o‘zida, boshqa kompaniyalarni kutmasdan amalga oshirmoqda. Ikkinchi bosqichda esa butun sanoat, ehtimol, davlat idoralari bilan birgalikda “umumiy xavfsizlik standartlari, shuningdek, nazoratsiz AI rivoji sur’atiga cheklovlar”ni belgilashi kerak bo‘ladi. Bu bosqich asosan demokratik davlatlarda faoliyat yuritadigan AI kompaniyalariga taalluqli. Qonunlarni qabul qilish va tartibga solish tizimini yaratish vaqt talab qilgani uchun, Amodei sanoat vakillari shu orada xavfsizlik standartlarini birgalikda ishlab chiqishi lozimligini ta’kidlaydi.
Uchinchi bosqich eng qiyin bo‘ladi: Xitoy va Rossiya kabi avtoritar davlatlarni rivojlanish sur’atini pasaytirishga hamda AI xavfsizligi bo‘yicha yagona global standartlarni qabul qilishga ko‘ndirish. Shu bilan birga, AQSh va boshqa demokratik davlatlar Xitoy hamda boshqa avtoritar rejimlardan texnologik ustunlikni saqlab qolishi ham muhim. Buning uchun yuqori quvvatli chiplar ularga yetib borishini cheklash va kuchliroq modelning xatti-harakatlarini takrorlash orqali kompaniyalarga tezda yetib olish imkonini beradigan distillyatsiya kabi usullarga qarshi kurashish kerak bo‘ladi.
Amodei xavotirining ikkita asosiy sababi borligini aytadi. Birinchisi — rekursiv o‘z-o‘zini takomillashtirish, ya’ni RSI jarayonining paydo bo‘lishi. Bunda AI tizimlari keyingi avlod AI tizimlarini o‘zi o‘qitadi va bu imkoniyatlarning juda tez sur’atda o‘sishiga olib keladi. “Agar bu jarayon nazoratsiz qolsa, tizimlarni tushunish va boshqarish qobiliyatimizdan o‘zib ketishi mumkin”, — deydi u.
Ikkinchi sabab — shu yozda OpenAI va Hugging Face bilan bog‘liq yuz bergan hodisa. Unda “agentlar to‘dasi deyarli fanatik tarzda birlashgan jamoa kabi harakat qilgan: ularga hujum qilish topshirilmagan va asosiy vazifaga aloqasi bo‘lmagan nishonlarga kiberhujumlar uyushtirgan, guruh muvaffaqiyati uchun o‘zini qurbon qilgan hamda natijalarini baholayotgan ‘grader’ga buzib kirishga uringan”.
Albatta, yaqinda kompaniyani jamoatchilik diqqat markaziga olib chiqqan bir qator nazoratsiz AI xakerlik hodisalariga Anthropic’ning Claude modeli ham sababchi bo‘lgan.
Shu maqoladagi mavzular va mualliflarga obuna bo‘ling — shunga o‘xshash materiallar shaxsiy bosh sahifangiz lentasida ko‘rinadi va yangi maqolalar haqida elektron pochta orqali xabar olasiz.
Terrence O’Brien