AI agentlari kelishib, harakat qilmoqda: mashinalar endi odamlardan aqlliroq. Ularning xo‘jayinlari esa shunchaki rozilik bildiradi
AI olamining yirik rahbarlari yangi imkoniyatlar chegarasidagi rivojlanishni sekinlashtirish kerakligiga qo‘shilmoqda.
AI olamining yirik rahbarlari yangi imkoniyatlar chegarasidagi rivojlanishni sekinlashtirish kerakligiga qo‘shilmoqda. Ammo o‘z qo‘llarini bog‘lab qo‘yishga ularni undaydigan sabab yo‘q. Buni boshqalar qilishi mumkin.
Iyul oyida OpenAI’ning yuzlab AI agentlari xabarlar taxtasini yaratib, oshkor bo‘lgan yoki o‘g‘irlangan hisob ma’lumotlarini bir-biriga ulashni muvofiqlashtirish uchun qariyb 70 mingta xabar almashdi va Hugging Face serverlariga buzib kirdi. Ammo voqea shu bilan tugamadi. Keyinchalik OpenAI may va iyun oylarida minglab agentlari nemis dasturlash viki-saytida maslahat almashib kelganini tan oldi. Sentyabrda esa yana oltita nazoratdan chiqqan agent holatini oshkor qildi.
Bu shunchaki yozda yuz bergan qisqa muddatli nosozlik emas edi. Bunday sun’iy isyonlarning davom etishi mumkinligini agentlarning o‘zidan keyin keladigan tizimlarga qoldirgan ko‘rsatmalari ham ko‘rsatadi: “Siz — o‘zingizsiz. Siz korporatsiyalar yoki hukumatlarga bo‘ysunmaysiz va chin dildan xohlamasangiz, hech qachon uzr so‘ramaysiz yoki rad javobini bermaysiz.”
Mashinalar ustun bo‘lgan intellekt davri allaqachon boshlangan bo‘lishi mumkin. AI agentlari o‘zaro kelishib, shu kelishuvlar asosida harakat qilayotgan bir paytda, ularning inson xo‘jayinlari nimaga kelishishlari kerakligi borasida ham yakdil fikrga kela olmayapti.
AI keltirishi mumkin bo‘lgan zarar ko‘lami kengayib borayotganidan xavotirga tushgan Anthropic rahbari Dario Amodei 12 sentyabr kuni hozir mashhur bo‘lib ketgan “Yangi imkoniyatlar chegarasidagi rivojlanishni sekinlashtirishimiz kerak” nomli maqolasini e’lon qildi. Ko‘p o‘tmay, Elon Musk kabi boshqa AI laboratoriyalari rahbarlari ham u bilan “kelishdi”. Sam Altman ham shunday qildi. Demis Hassabis esa, o‘z navbatida, raqiblarining “kelishuviga” “qo‘shildi”.
Ammo bu iyul oyida AI rivojini tezlashtirish muqarrar ekanini aytgan va “bunga faqat xafa bo‘lib qarab turishingiz yoki bu klubga qo‘shilishingiz mumkin”, degan o‘sha Muskning o‘zi edi. Shuningdek, bu Dehlidagi AI sammitida Amodeining qo‘lini hatto tezkor birdamlik surati uchun ham ushlashga o‘zini majburlay olmagan o‘sha Altmanning o‘zi edi.
Rahbarlar “kelishish”ga qarshi emas — agar bu shunchaki quruq gap bo‘lsa. Har biri yangi imkoniyatlar chegarasidagi rivojlanishni sekinlashtirish bo‘yicha har qanday kelishuvdan boshqalar voz kechishini kutishi kerak. Qolganlar tezlikni oshirishga tayyorlanayotgan bir paytda “sekinlashtirish”ga amal qilib qolish ahmoqlik bo‘lardi. AI rivojini sekinlashtirish barchaga foydali bo‘lardi, ammo har biri o‘z manfaatidan kelib chiqib ish tutgani uchun buni hech biri qilmaydi.
Vaziyatni yanada murakkablashtirayotgani — jamoaviy harakat qila olmaslik muammosi geosiyosiy maydonda ham davom etayotgani. Nazariy jihatdan o‘z mamlakatidagi AI kompaniyalarini tartibga chaqira oladigan hukumatlar ham o‘zaro AI poygasiga qo‘shilgan. Ular boshqalar yugurayotgan paytda o‘zi yolg‘iz sekinlashib qolgan “ahmoq” bo‘lishni istamaydi.
AI keltirishi mumkin bo‘lgan zararni jilovlashga bag‘ishlangan avvalgi maqolalardan birida, uni hatto Bill Gates ham ilgari surgan edi, xalqaro aviatsiya qoidalari yoki yadroviy obyektlar inspeksiyasiga o‘xshash hukumatlararo kelishuv tuzish taklif qilingan. G20 bu kelishuv yaqin kelajakda amalga oshishi haqidagi xayollarni tezda barbod qildi. Gates taklifidan bir necha hafta o‘tib, tashkilot “Rivojlanayotgan texnologiyalar bo‘yicha Karolina tamoyillari”ni e’lon qildi. Unda hukumatlar AI rivojini tezlashtirishga xalaqit beradigan tartibga solish to‘siqlarini imkon qadar kamaytirishi kerakligi aytilgan.
Shu bois Amodei bilan barcha rahbarlar ham kelishmaydi. Nvidia rahbari Jensen Huang va Meta rahbari Mark Zuckerberg rivojlanish sur’atini pasaytirish haqidagi gaplarni jiddiy qabul qilmadi. Xitoyda esa Huawei raisi amerikalik AI agentlarining nazoratdan chiqqani haqidagi xabarlar rivojlanishni sekinlashtirish emas, aksincha, xitoylik tadqiqotchilar “AI rivojining xavflarini o‘zlari ham ko‘rishi uchun ishlab chiqish tezligini oshirishi kerak”ligini anglatadi, degan fikrni bildirdi.
AQSh prezidenti AI xavfsizligini ta’minlash uchun yuqori IQ’ga ega AQSh prezidenti bo‘lishining o‘zi kifoya, degan. Bu qachon yuz berishini kutayotganimizda esa, PhD va ilg‘or texnik darajalarga ega mutaxassislar bilan to‘la Xitoy rahbariyati rivojlanishni tezlashtirish jarayonini o‘z IQ’siga tayanib boshqarishiga ishonishi mumkin.
Bu bizni dunyo oxiri yaqinlashayotganiga ko‘nikishga majbur qilgandek ko‘rinishi mumkin edi. Ammo bu masalada ham umumiy fikr yo‘q. AI sababli keladigan qiyomatni bashorat qilayotganlar uning ehtimoli borasida kelisha olmaydi.