AI sanoatida xavotir kuchaydi. Endi nima bo‘ladi?
Ushbu maqola AI haqidagi haftalik The Algorithm xabarnomamizda e’lon qilingan.
Ushbu maqola AI haqidagi haftalik The Algorithm xabarnomamizda e’lon qilingan. Shunday materiallarni birinchi bo‘lib elektron pochtangizda olish uchun shu yerda obuna bo‘ling.
Shu dam olish kunlari Anthropic bosh direktori Dario Amodei LLMlarni rivojlantirish sur’atini sekinlashtirishga chaqiruvchi maqola e’lon qildi. U texnologiya bilan bog‘liq yaqinlashib kelayotgan xavflarni sanab o‘tdi: kiberhujumlar va bioterrorizmda foydalanishdan tortib, iqtisodiyotni izdan chiqarish ehtimoligacha.
AQShdagi uchta yetakchi AI laboratoriyasi rahbari ham uni qo‘llab-quvvatladi: OpenAI bosh direktori Sam Altman, Google DeepMind raisi Demis Hassabis va SpaceXAI rahbari Elon Musk. “Dario haq”, deb yozdi Musk X ijtimoiy tarmog‘ida.
Bu kelishuv qanchalik g‘alati ekanini bir zum tasavvur qilib ko‘ring. Bundan atigi bir necha oy oldin Musk va Altman sudda bir-birining obro‘siga hujum qilgan edi. Bu Muskning OpenAI’dagi sobiq hamkasbiga qarshi bergan, muvaffaqiyatsiz yakunlangan da’vosi bo‘lib, hujjatlarga ko‘ra, ish Altman shunchalik xavfli texnologiyaning ishonchli boshqaruvchisi bo‘la oladimi-yo‘qmi, degan masalaga borib taqalgan.
Amodei bilan OpenAI o‘rtasidagi ziddiyat bundan ham chuqurroq. Anthropic 2021-yilda aynan Amodei Altman ular yaratgan texnologiya xavflariga yetarlicha jiddiy yondashmayapti, deb hisoblagani sababli tashkil etilgan. Shundan beri Anthropic va OpenAI bozorda g‘olib hamma narsani oladigan poygada raqobatlashib kelmoqda. Hassabis bu mojarolarga aralashmadi, biroq uning kompaniyasi hamon raqib bo‘lib qolmoqda.
Endi esa ularning barchasi bir fikrda ekani ko‘rinmoqda: LLMlarning so‘nggi avlodi xavfsiz emas va bu muammo bilan nima qilish kerakligini hamma birgalikda aniqlashi lozim. Yetakchi AI laboratoriyalari rahbarlarining ommaviy bayonotlari tobora xavotirli tus olmoqda.
Bunga shubha bilan qarash oson. Ularning “sekinlashuv” deganda aynan nimani nazarda tutayotgani yoki buni qanday amalga oshirish mumkinligi umuman aniq emas. Bundan tashqari, bu kompaniyalar jamoatchilik ko‘zida qanday ko‘rinishiga katta e’tibor beradi.
OpenAI va Anthropic qiymati trillion dollarga baholanishi mumkin bo‘lgan IPOga tayyorlanmoqda. Shu sababli ular investorlarni o‘zini vazmin va mas’uliyatli tutadigan kompaniyalar ekaniga ishontirishi kerak. Ayni paytda esa yaratgan “mahluq”larining qudratini ko‘rsatib, ularni jilovlay olishlarini bildirishga urinmoqda. Rivojlanishni sekinlashtirishga chaqiriq bu ikki maqsadga ham xizmat qiladi.
Shunga qaramay, bu kompaniyalar rahbariyatidagi kayfiyat haqiqatan ham o‘zgarganga o‘xshaydi. Amodeining so‘nggi maqolasi OpenAI bosh olimi Jakub Pachocki e’lon qilgan materialdan olti kun o‘tib chiqdi. Pachocki ham LLMlarni rivojlantirish sur’ati nazoratsiz davom etsa, nimalar yuz berishidan xavotirda ekanini yozgan.
Qisqacha aytganda, Pachocki OpenAI’ning kuchli modellar yaratish qobiliyati endi ularni kuzatish va nazorat qilish imkoniyatidan ancha ilgarilab ketganidan tashvishda.
Amodei va Pachocki ikkalasi ham iyul oyida AI kompaniyasi Hugging Face’ga uyushtirilgan kiberhujumni ogohlantiruvchi signal sifatida tilga olgan. Hujumni OpenAI agentlari guruhi amalga oshirgan, OpenAI esa voqea tugaganidan bir necha kun o‘tmaguncha bundan bexabar bo‘lgan.
Biroq ularning aniq pozitsiyasini tushunish qiyin. Pachocki bir tomondan rivojlanishni sekinlashtirishga chaqiradi, boshqa tomondan esa oldinda qolish zarurligini ta’kidlaydi: “Men ko‘rayotgan eng kuchli dalil — ancha aqlli modellarni tezroq tayyorlashda davom etish kerak. Chunki boshqa AI tizimlari keltirishi mumkin bo‘lgan xavflarga qarshi himoya tizimlarini yaratish zarur”, deb yozadi u.