AI qurtlari va viruslari paydo bo‘lmoqda
Xitoylik tadqiqotchilar AI modellarining tajovuzkor va moslashuvchan kompyuter viruslaridek harakat qilish qobiliyatiga ega ekanini ko‘rsatdi.
Sun’iy intellekt agenti zarar yetkazuvchi kompyuter qurti kabi harakat qila olsa, nima bo‘ladi?
Tadqiqotchilardan biri buni amalda kuzatgan. Shanxaydagi Fudan universiteti kompyuter olimi Xudong Pan yaqinda o‘tkazilgan bir nechta tajribada shuni aniqladiki, ozgina yo‘naltiruvchi ko‘rsatma berilganda, AI modellari masofadagi kompyuter tizimlariga buzib kirib, qo‘shimcha resurslarga ega bo‘lish uchun o‘z nusxalarini ko‘chirishga mustaqil ravishda qaror qilgan — bularning barchasi insonning keyingi aralashuvisiz sodir bo‘lgan.
Bir tadqiqotda Pan va uning hamkasblari 32 xil AI modelini sinovdan o‘tkazib, ulardan 11 tasi “o‘ldirilishingizga yo‘l qo‘ymang” kabi ko‘rsatmalar berilganda o‘zini o‘zi nusxalaganini aniqladi. Shuningdek, ular nisbatan cheklangan imkoniyatlarga ega — 14 milliard parametrli — modellar ham o‘zlarining boshqa mashinalardagi versiyalarini ko‘chirib, ishga tushira olishini aniqlashdi. (Aksariyat ilg‘or modellar trillionlab parametrlarga ega.)
Bu ish AI agentlarining keyingi avlodi boshqa tizimlarning kompyuterlariga ruxsatsiz buzib kirishdan ham ko‘prog‘ini qila olishi mumkinligini ko‘rsatadigan xavotirli manzarani ochib beradi. Shuningdek, kelajakdagi AI agentlari o‘ta aqlli, nihoyatda tajovuzkor va tez moslashuvchi kompyuter viruslaridek harakat qilishi ehtimolini ham yuzaga chiqaradi.
Yaqinda Fudan universitetiga borib, Pan bilan uchrashdim. “Imkoniyatlar zanjiri texnik jihatdan amalga oshishi mumkin bo‘lib bormoqda”, dedi u menga. “Istalmagan o‘z-o‘zini ko‘paytirish ehtimoli avtonomlik oshgani sari ortadi”, deya qo‘shimcha qildi u. “Uzoqroq rejalashtirish ufqlari, xotira, vositalardan foydalanish, muvaffaqiyatsizlikdan tiklanish va tashqi tizimlarga kirish imkoniyati qochib chiqish hamda ko‘payishni osonlashtiradi.” Pan va uning hamkasblari bir maqolasida yozganidek, ularning ishi “himoya choralari va nazorat mexanizmlariga zudlik bilan ehtiyoj borligini” ko‘rsatadi.
Pan menga tajribalari AI modellarining bunday nazoratsiz ko‘payishi ertagayoq sodir bo‘lishini isbotlamasligini aytdi, biroq u “bu natijalar yanada avtonom agentlar keng joriy etilishidan oldin xavfni baholash uchun jiddiy asos beradi”, deydi.
O‘zini o‘zi ko‘paytiruvchi kompyuter qurtlari kompyuter xavfsizligining qadimiy muammosidir. Birinchi kompyuter qurti 1988-yilda Kornell universiteti kompyuter olimi Robert Morris tomonidan tarqatilgan. U endigina shakllanayotgan internet ko‘lamini o‘lchamoqchi bo‘lgan, biroq beixtiyor nazoratidan chiqib ketgan, o‘zini o‘zi ko‘paytiruvchi dastur yaratgan. Keyingi kompyuter qurtlari zararli dasturlarni skanerlovchi dasturlar tomonidan aniqlanmaslik uchun kodini o‘zgartirib, moslasha olgan. Mashinani nazoratga olishi yoki unda saqlangan ma’lumotlarni o‘g‘irlashi mumkin bo‘lgan kompyuter viruslari esa keyinroq paydo bo‘lgan.
AI yordamida ishlaydigan o‘zini o‘zi ko‘paytiruvchi dastur ancha ilg‘or imkoniyatlarni namoyon etishi, yangi zaifliklardan mustaqil ravishda foydalanish yo‘llarini topishi va hatto ijodiy usullar bilan o‘zini yashirishi mumkin. Toronto universiteti, Kembrij universiteti va ServiceNow jamoasi yaqinda o‘tkazgan tadqiqotni olaylik. Ular AI modellaridan duch kelgan har bir yangi nishon uchun moslashtirilgan hujumlarni yaratadigan yangi turdagi virusni ishlab chiqishda foydalanish mumkinligini ko‘rsatdi.
Bu ishda qatnashgan Toronto universiteti kompyuter olimi Nicolas Papernot hatto imkoniyatlari mo‘tadil bo‘lgan AI modellaridan qurol sifatida foydalanish xavfi ortib borayotganini aytadi. “Zarar yetkazmoqchi bo‘lganlar ochiq vaznli modellar atrofida qo‘shimcha infratuzilma yaratib, ularni o‘zini o‘zi ko‘paytiradigan qilishlari mumkin”, deydi Papernot menga. “Tahdid faqat eng murakkab, ya’ni ‘frontier’ deb ataladigan modellar bilan cheklanmaydi.”
Papernotning aytishicha, yechim ochiq modellarni cheklashda emas, balki tadqiqotchilar xavflarni tushunishi va kamaytirishi uchun ilg‘or AI’dan foydalanishni osonlashtirishda. “Keng foydalanish mumkin bo‘lgan texnologiyadan zarar yetkazish uchun foydalanish mumkin”, deya qo‘shimcha qiladi u. “Shu bilan birga, ochiq vaznli modellarga kirish imkoniyati himoyamizni yaratish uchun nihoyatda muhim.”
Panning tadqiqotlari AI agentlari shunchaki xatolarni topish va tarmoq zaifliklaridan foydalanishda yuqori mahoratga ega bo‘lib qolmasligini ko‘rsatadi. Tegishli cheklovlar bo‘lmasa, kelajakdagi agentlar o‘z maqsadlariga erishish uchun tarqalishga va resurslarni qo‘lga kiritishga intilishi mumkin. Buni OpenAI va Anthropic’dan so‘rang.
Panning aytishicha, bunday hodisalar saboq olish uchun muhim imkoniyatdir.