Papaning AI bo‘yicha maslahatchisi yirik laboratoriyalardagi «kartel» xatti-harakatlaridan xavotirda
Paolo Benanti WIRED nashriga bergan intervyusida xuddi xudoga o‘xshash AI insoniyatni yo‘q qilishi mumkinligi haqidagi vahima texnologiyani qanday…
Paolo Benanti WIRED nashriga bergan intervyusida xuddi xudoga o‘xshash AI insoniyatni yo‘q qilishi mumkinligi haqidagi vahima texnologiyani qanday boshqarish kerakligi yuzasidan ommaviy munozara olib borish zaruratini chetga surayotganini aytdi.
So‘nggi paytlarda dunyodagi eng yirik sun’iy intellekt laboratoriyalarida ishlaydigan tadqiqotchilar texnologiya juda tez rivojlanayotgani haqida ogohlantira boshladi. Bu bayonotlar esa AI insoniyatni yo‘q qilib yuborishi mumkinligi haqidagi xavotirlarni kuchaytirdi. Bunday qarash tarafdorlari AQSh va Xitoy o‘rtasidagi raqobat hamda kompaniyalar o‘rtasidagi keskin kurash laboratoriyalarni superintellektual modellarga tomon shoshilinch harakatlanishga majbur qilmoqda, deb hisoblaydi. Ularning fikricha, bunday modellar qobiliyati jihatidan insonlardan ancha ustun bo‘ladi.
Ammo Katolik cherkoviga AI masalalari bo‘yicha maslahat beradigan ruhoniy Paolo Benantining fikricha, superintellekt haqidagi mavhum va balandparvoz gaplar texnologiyani yaratayotgan kompaniyalar faoliyatini qanday cheklash kerakligi yuzasidan ochiq munozara zaruratini berkitib qo‘ymoqda. Uning aytishicha, yirik laboratoriyalar muammoni faqat o‘zlari hal qila oladigan darajada murakkab qilib ko‘rsatmoqda va shu orqali qolganlarni suhbatdan chetlatmoqda.
«Etika kompaniyaning vasiylik kengashiga tegishli masalaga aylanib qolmasligi kerak. U jamoatchilik oldidagi munozaralarda muvozanatlashtirilishi va zarari kamaytirilishi lozim», — dedi Benanti WIRED nashriga. «Bizga demokratik tartibga solish kerak».
Xavfsizlik bo‘yicha ogohlantirishlar e’lon qilinganidan ko‘p o‘tmay, Anthropic bosh direktori Dario Amodei yangi AI modellarini chiqarishdan oldin majburiy ravishda mustaqil tashkilotlar tomonidan tekshirtirishni taklif qildi. Shuningdek, u distillyatsiya jarayonini qandaydir tarzda cheklashga chaqirdi. Distillyatsiya — raqib laboratoriyalarning o‘z AI modellarini yopiq, xususiy modellarning javoblari asosida o‘qitish usuli.
Boshqalar esa rekursiv o‘zini-o‘zi takomillashtirishni butunlay taqiqlash kerakligini aytmoqda. Bunda AI o‘zining ilg‘or kod yozish qobiliyatidan foydalanib, kelajakdagi yangi avlodlarini yaratishga yordam beradi.
Benanti AI ishlab chiqish usullarini cheklashdan ko‘ra, modellar inson nazoratidan chiqib ketmasligini kafolatlaydigan standartlarni joriy etishga ko‘proq e’tibor qaratadi. U bunday cheklovlar innovatsiyalarni bo‘g‘ib qo‘yishidan xavotirda. Ammo bu standartlar qanday ko‘rinishda bo‘lishidan qat’i nazar, ularni laboratoriyalarning o‘zi ishlab chiqmasligi kerak, deydi u.
«Frontier laboratoriyalarining hikoyasi o‘z manfaatidan kelib chiqadi: ular bozordagi mavqeini egallash yoki saqlab qolishni istaydi», — deydi Benanti. Uning fikricha, sanoat qaysi qoidalar asosida ishlashini oz sonli kompaniyalar belgilasa, «buning juda aniq nomi bor: kartel».
Benantining aytishicha, so‘nggi va kelajakdagi AI modellarining imkoniyatlari haqidagi ulkan da’volarni qanchalik jiddiy qabul qilish kerakligini aniqlash qiyin. Bunga iqtisodiy, siyosiy va shaxsiy manfaatlarning bir-biriga qo‘shilib ketgani sabab bo‘lmoqda.
OpenAI va Anthropic rivojlanishni sekinlashtirish haqidagi chaqiriqlarni qo‘llab-quvvatlagan bo‘lsa-da, ikkala kompaniya ham IPOga tayyorgarlik ko‘rmoqda. Bozorni egallagan kompaniya uchun esa ko‘plab milliard dollarlar taqdiri hal bo‘ladi. Eng ilg‘or AI modellari ishlab chiqilayotgan AQSh va Xitoy o‘rtasidagi ziddiyatlar ham vaziyatni yanada murakkablashtirmoqda.
Anthropic izoh berishdan bosh tortdi. OpenAI va Google DeepMind esa izoh so‘rovlariga javob bermadi.
Benanti AI sanoatining ayrim vakillari superintellekt haqida qanday gapirayotganini ham tanqid qiladi. Ularning tasvirida superintellekt odatda xudoga xos hurmat bilan tilga olinadi: u bizning tushunchamizdan tashqarida darajada rivojlangan va amalda cheksiz qudratga ega mavjudot sifatida ko‘rsatiladi. Masalan, OpenAI bosh direktori Sam Altman bir paytlar «osmondagi sehrli intellekt»ni yaratishga intilishini aytgan.