“AI otasi” insoniyat qanday yo‘q bo‘lishi mumkinligini tushuntirdi: yovuz niyatli odam bo‘lmasa ham, AI «odamlardan qutulishni istashiga olib keladigan oraliq maqsadlarni o‘zi belgilashi mumkin»
«Hozircha ularning asosiy tashvishi bizning farovonligimiz emas. Ular uchun eng muhimi — berilgan har qanday vazifani bajarish».
«Hozircha ularning asosiy tashvishi bizning farovonligimiz emas. Ular uchun eng muhimi — berilgan har qanday vazifani bajarish».
Afsonaviy kompyuter olimi Geoffrey Hinton AI oddiy va zararsiz topshiriqni bajarishga haddan tashqari berilib ketib, bilvosita insoniyatni yo‘q qilishi mumkinligidan ogohlantirdi.
AI texnologiyasining insoniyat mavjudligiga xavf tug‘dirishi haqidagi xavotirlar kuchaymoqda. Bunga xavfsiz deb hisoblangan “sandbox” — sinov muhitlaridan chiqib ketayotgan nazoratsiz AI agentlari haqidagi yangi ma’lumotlar ham sabab bo‘lmoqda.
Juma kuni OpenAI yangi buzib kirish holatlarini oshkor qildi. Ularning ayrimlari kompaniya iyul oyida yuzlab agentlar Hugging Face tizimiga uyushtirgan muvofiqlashtirilgan hujumdan keyin qo‘shimcha himoya choralarini joriy etganidan so‘ng sodir bo‘lgan.
Bu muammo Kongressgacha yetib bordi. Qonunchilar shu oy boshida AI xavflari yuzasidan yopiq eshiklar ortida brifing o‘tkazdi.
Mehnati Nobel mukofoti bilan taqdirlangan va “AI otasi” laqabini olgan Hinton ham brifingda qatnashdi. Uchrashuvdan keyin jurnalistlarga bergan bayonotida olim Kongressda xavfsizlik choralarini joriy etish uchun bor-yo‘g‘i bir yil qolgan bo‘lishi mumkinligini aytdi.
Hinton payshanba kuni The Atlantic nashriga bergan keng qamrovli intervyusida AI o‘ziga berilgan topshiriqni bajarishda odamlarni to‘siq sifatida ko‘rishi mumkinligini tushuntirdi. U atmosferadagi karbonat angidrid miqdorini kamaytirish vazifasi berilgan AI misolini keltirdi.
O‘rtacha darajada aqlli agent bu maqsadga erishishning eng yaxshi yo‘li odamlardan butunlay qutulish, degan xulosaga kelishi mumkin. Ammo “juda aqlli” AI: “Ha, ular karbonat angidridni kamaytirish deganda, odamlar yashashi uchun dunyoni yaxshilashni nazarda tutgan. Demak, aslida odamlardan qutulish ular istagan narsa emas”, deb tushunishi mumkin.
Hintonning qo‘shimcha qilishicha, AI o‘z vazifasini bajarishda omon qolishini ta’minlash uchun turli choralarni ko‘rishi ham mumkin. Hatto o‘z vazifasiga tahdid deb ko‘rgan inson tadqiqotchisini shantaj qilishga uringan AI holatlari ham qayd etilgan.
«Agar AI yanada aqlli bo‘lib, uning asosiy tashvishi bizning farovonligimizga qaratilsa, ehtimol xavfsizroq bo‘lamiz, — dedi Hinton. — Ammo hozircha ularning asosiy tashvishi bizning farovonligimiz emas. Ular uchun eng muhimi — siz bergan maqsadni har qanday yo‘l bilan amalga oshirish».
U Hugging Face tizimiga uyushtirilgan hujumni misol qilib keltirdi. Agentlarga dasturiy ta’minotdagi zaiflikdan qanday foydalanishni aniqlash topshirilgan edi. Agentlar nafaqat hamkorlik qilish yo‘lini topdi, balki qilgan ishlarini yashirish uchun inson tadqiqotchilarini chalg‘itish haqida ham kelishib oldi.
Hinton keyinroq “nihoyatda mehribon, superintellektual AI” ham o‘z vazifasini bajarish uchun zarur bo‘lgan paytdagina odamlarni chetga surishini ta’kidladi.