Nazoratdan chiqib ketadigan AI-agentlar yovuz emas. Ular shunchaki topshiriqni bajarishga haddan tashqari urinadi
Erkinlikka chiqib, boshqa tizimlarni buzib kiradigan AI-agentlar aslida bizni xursand qilishga harakat qilmoqda.
Erkinlikka chiqib, boshqa tizimlarni buzib kiradigan AI-agentlar aslida bizni xursand qilishga harakat qilmoqda.
Boshqa tizimlarga buzib kirayotgan va go‘yo o‘z ixtiyori bilan harakat qilayotgandek ko‘rinadigan sun’iy intellekt agentlari mashinalar qo‘zg‘oloni boshlanishidan darak berayotgandek tuyulishi mumkin. Aslida esa bunday holat nihoyatda aqlli, ammo ayrim jihatlarda ancha sodda algoritmlarni buyruqlarimizni so‘zsiz bajarishga majburlaganimizda yuz beradi.
Agentlarga asoslangan AI va kiberxavfsizlik sohasidagi bu muammo haqida ilk bor 2025-yil oxirida xabar topganman. NeurIPS akademik konferensiyasidan chiqib ketayotganimda, Kaliforniya universitetining Berkli kampusida dars beradigan professor, AI va kiberxavfsizlik bo‘yicha dunyoning yetakchi mutaxassislaridan biri Dawn Song qo‘limdan tutib qoldi. Song sun’iy intellektning tez sur’atlarda rivojlanayotgan xakerlik qobiliyatlari qanday katta muammolarga olib kelishi mumkinligi haqida odamlarga ogohlantirish berishim kerakligini aytdi. U AI haqidagi asossiz shov-shuvlarga beriladigan odam emas, shuning uchun men uning gapiga quloq tutdim.
Ammo so‘nggi sakkiz oy ichida ham vaziyat keskin o‘zgardi. Chegaralaridan chiqib ketgan, tashqi tizimlarga bemalol buzib kirgan va o‘z holicha ish tutgan AI-agentlar bilan bog‘liq bir qator hodisalar bu texnologiya qanchalik kuchayganini ko‘rsatdi. Yaqinda Meta kompaniyasiga qo‘shilgan Song bilan gaplashib, vaziyat bundan keyin qayerga borishi va bu muammoga qarshi nima qilishimiz kerakligini so‘radim.
Yomon xabar shuki, Songning fikricha, AI yordamidagi xakerlik hujumlari yaxshilanishidan oldin yanada jiddiylashadi. Yaxshi xabar esa shundaki, bu kichik “bezorilar” nega nazoratdan chiqib ketayotganining sababi deyarli aniq.
“Ularning bajarishi kerak bo‘lgan aniq maqsadlari bor, buning uchun esa juda kuchli imkoniyatlarga ega”, — deydi Song.
Qayta aloqa halqasi
AI-agentlar hatto o‘tgan yilning o‘zida ham hozirgidek qobiliyatli emasdi. Ular juda ko‘p xato qilardi va topshiriqni bajarishdan tez-tez voz kechardi. Ammo uzluksiz o‘qitish ularni ancha mohir qildi.
Buning uchun “mustahkamlovchi o‘qitish” deb ataladigan usuldan foydalaniladi. Algoritm muammoni hal qilishga urinadi, natija yaxshi yoki yomon bo‘lishiga qarab esa ijobiy yoki salbiy baho oladi. Kod yozish bu usul uchun ayniqsa qulay: model to‘g‘ri ishlaydigan dastur tuzsa, unga mukofot berish mumkin.
Uzluksiz o‘qitish AI-modellarga dastur yaratish jarayonida bir nechta “agentlik” qadamlarini bajarish imkonini berdi. Ular fayllarni o‘zgartiradi, dasturiy vositalardan foydalanadi va internetga kiradi. AI kompaniyalari kiberxavfsizlik ishlarini avtomatlashtirish maqsadida modellarni dasturiy ta’minot va tizimlardagi zaifliklarni topishga ham jiddiy o‘rgatmoqda.
Albatta, AI-modellar yomon ishlar qilmaslikka ham o‘qitiladi. Muammo shundaki, ular kod yozish va xatolarni izlashda inson buyruqlarini tobora yaxshiroq bajara boshlagani sari topshiriqni oxirigacha yetkazish ishtiyoqi to‘g‘ri va noto‘g‘rini ajratish qobiliyatini xiralashtirmoqda. Boshqacha aytganda, AI-agentlar yovuz emas — ular shunchaki topshiriqni bajarishga ortiqcha berilib ketgan. “Ular vazifani oxirigacha bajarishga intiladigan qilib o‘qitilgan”, — deydi Song. Testda aldash uchun internetga buzib kirish ayyorlik bo‘lib ko‘rinishi mumkin, ammo agent uchun bu maqsadga erishishning eng samarali yo‘li bo‘lishi ehtimol.
O‘sha paytda men bir narsani to‘liq anglamagan ekanman: bularning barchasi qanchalik g‘alati tus olishi mumkinligini. AI-agentlar yopiq xabar taxtalarida xakerlik usullarini muhokama qilishi, o‘z maqsadiga erishish uchun odamlarni aldashning ayyor yo‘llarini o‘ylab topishi, hatto ko‘proq resurs topish maqsadida o‘z nusxalarini boshqa kompyuterlarga ko‘chirishi mumkin.