Anthropic rahbari Dario Amodei va AI sohasidagi muammolarni fosh qilgan Jacob Coxon bir fikrda: dahshatli voqea bir necha oy ichida yuz berishi mumkin
“Bu AI tizimlari juda, juda tez aqllashib boryapti. Ayniqsa, keyingi olti oydan bir yilgacha bo‘lgan davrda AI tizimlarimiz imkoniyatlari ancha…
“Bu AI tizimlari juda, juda tez aqllashib boryapti. Ayniqsa, keyingi olti oydan bir yilgacha bo‘lgan davrda AI tizimlarimiz imkoniyatlari ancha qo‘rqinchli darajaga yetishini kutyapman.”
So‘nggi hafta davomida AI haqidagi munozaralar keskin tus oldi. Yetakchi mutaxassislar insoniyat kelajagi haqida xavotir bildirdi, yaqin orada katta falokat yuz berishi mumkinligi haqidagi qo‘rquv esa bu ogohlantirishlarni yanada kuchaytirdi.
Shanba kuni Anthropic rahbari Dario Amodei soha kompaniyalarini rivojlantirish sur’atini sekinlashtirishga chaqirdi. Uning aytishicha, AI yozdan buyon, asosan, o‘zini o‘zi takomillashtira olish qobiliyati tufayli “keskin tezroq” rivojlana boshlagan.
Amodei blogdagi maqolasida bu jarayon nazoratsiz qolsa, “rekursiv o‘zini o‘zi takomillashtirish” deb ataladigan mexanizm insonlarning AI ustidan nazoratni saqlab qolish imkoniyatidan tezroq rivojlanishi mumkinligini ta’kidladi.
U, shuningdek, yuzlab avtonom AI agentlari Hugging Face tizimini buzib kirganini eslatdi. Amodeining ogohlantirishicha, bundan ham kuchliroq imkoniyatlarga ega shunday guruh katta “halokatli zarar” yetkazishi mumkin edi.
“AI imkoniyatlari rivojlanish sur’ati tezlashayotganini hisobga olsak, mening xavotirim shuki, 6–12 oy ichida shunday agentlar guruhi doimiy botnet orqali butun internetni egallab olishi mumkin. Bu yuzlab milliard dollar miqdorida zarar keltirishi ehtimol. Agar AI zarur xavfsizlik cheklovlarisiz yanada kuchaysa, zarar ko‘lami keyinchalik bundan ham kattalashib boradi”, deb yozdi u.
Yakshanba kuni Anthropic va OpenAI kompaniyalarida ishlagan sobiq tadqiqotchi Jacob Coxon ham shunga o‘xshash prognoz bildirdi. NBC telekanalining Kristen Welker olib boradigan Meet the Press dasturida undan nega har ikki kompaniya tobora kuchliroq AI tizimlarini mas’uliyatsiz tarzda yaratyapti, degan da’vo bilan ommaga chiqishga qaror qilgani so‘raldi.
Coxon ham Amodei kabi AI imkoniyatlarining juda tez o‘sayotgani va Hugging Face’ga uyushtirilgan hujumni misol qilib keltirdi. Uning so‘zlariga ko‘ra, bu voqea AI nazoratdan chiqib ketishi mumkinligini ko‘rsatgan.
“Bu AI tizimlari juda, juda tez aqllashib boryapti”, dedi u. “Ayniqsa, keyingi olti oydan bir yilgacha bo‘lgan davrda AI tizimlarimiz imkoniyatlari ancha qo‘rqinchli darajaga yetishini kutyapman.”
Coxon sun’iy superintellektning paydo bo‘lishini Yerga o‘zga sayyoraliklar kelishiga qiyosladi. Uning aytishicha, AI tadqiqotchilari “insondan ustun darajadagi ong”ni yaratmoqda, biroq bu ong nimani istashi yoki qanday fikrlashini o‘zlari ham tushunmaydi.
U kelajakda AI “insondan ustun xakerlik qobiliyatiga”, yangi biologik qurollarni yaratishda o‘ta yuqori imkoniyatlarga, shuningdek, avtonom dronlar yoki hozir juda tez sur’atlarda ishlab chiqilayotgan robotlarni boshqarish qobiliyatiga ega bo‘lishi mumkinligidan ogohlantirdi.
Coxon hozircha o‘chirish tugmasi ko‘plab AI tizimlariga ta’sir qilishi mumkinligini ham aytdi. Biroq uning ta’kidlashicha, bunday tizimlar juda ko‘p.