AI gigantlari ekzistensial xavf haqida ogohlantirar ekan, xavfsizlikni raqobatchilardan ustunlik beruvchi omilga ham aylantirmoqda. “Bu juda aqlli strategiya — ular katta daromad qiladi”
Pitchbook kompaniyasining katta tadqiqot tahlilchisi Harrison Rolfesning fikricha, AI gigantlari o‘zini investorlar uchun eng xavfsiz tanlov sifatida…
Pitchbook kompaniyasining katta tadqiqot tahlilchisi Harrison Rolfesning fikricha, AI gigantlari o‘zini investorlar uchun eng xavfsiz tanlov sifatida ko‘rsatib, kichik raqiblarning o‘sishini cheklashi mumkin.
Texnologiya gigantlari sun’iy intellektdan charchagan dunyoni o‘zlarining ilg‘or tizimlari insoniyat uchun xavf tug‘dirishi mumkinligi haqida ogohlantira boshladi. Shundan so‘ng savol tug‘ildi: ular bundan nima yutadi?
Javob kompaniyalarning AQShdagi oraliq saylovlar arafasida siyosiy maqsadlarini ilgari surishga urinayotgani va eng yirik AI laboratoriyalari hamda ularning investorlari notinch fond bozorida uzoq kutilayotgan aksiyalarni ommaviy taklif qilishdan ko‘rishi mumkin bo‘lgan daromadda bo‘lishi mumkin.
Anthropic va OpenAI rahbarlari yaqinda Amerikaning eng ilg‘or modellari shu qadar kuchli ekani, ular xavf tug‘dirishi mumkinligini aytdi. Ularning fikricha, bunday modellar ishga tushirilishidan oldin tartibga solinishi va mustaqil ravishda sinovdan o‘tkazilishi kerak. Bu kamdan-kam uchraydigan yakdillik holatida ular maqolalar, ijtimoiy tarmoq postlari va Birlashgan Millatlar Tashkilotidagi nutqlarida xavotirli ssenariylarni tasvirlab berdi.
Shu bilan birga, kompaniyalar o‘z texnologiyalarini qanday nazorat qilish kerakligi haqidagi munozaraga ham yo‘nalish bermoqda. Mutaxassislar, tahlilchilar va hukumatning sobiq baholovchilari The Associated Press’ga aytishicha, kompaniyalar bu ritorika orqali jamoatchilik qo‘lloviga erishish va hali tartibga solinmagan bozorda o‘z xavfsizlik qoidalari uchun shartlarni belgilashga urinayotganga o‘xshaydi.
Bu maqsadlar Anthropic muhandisi Jacob Coxon ko‘zlagan natijaga to‘liq mos kelmasligi mumkin. Coxon shu oy X’dagi posti orqali kompaniyani tark etar ekan, “superinsoniy” tizimlar ularni yaratganlar nazoratidan chiqib ketmasligi uchun texnologiyalarni ishlab chiqishni vaqtincha to‘xtatishga chaqirdi. Biroq kompaniyalar uning postidan o‘zlarining xavfsizlik choralarini ko‘rsatish va ehtiyotkor bozor yetakchilari sifatida namoyon bo‘lish uchun foydalandi. Bu ular Wall Street’da aksiyalarini ommaviy sotuvga chiqarishdan oldin yangi mablag‘ga muhtoj bo‘lgan paytga to‘g‘ri keldi.
Prezident Donald Trump yangi AI qoidalariga ehtiyoj borligini rad etib kelmoqda. U insoniyatga xavf haqidagi gaplarni Xitoyga yordam berish uchun o‘ylab topilgan “HOAX” — “firibgarlik” deb atadi.
Ushbu maqola bo‘yicha berilgan savollarga javoban Anthropic vakili kompaniya bir necha yildan beri tartibga solish zarurligi haqida gapirib kelayotganini aytdi. OpenAI vakili Liz Bourgeois esa kompaniya yaqinda eng ilg‘or modellarini o‘qitishni vaqtincha to‘xtatganini ta’kidladi.
“ Odamlar AI xavfsiz ishlab chiqilayotganini bilishni xohlaydi. Buning boshlanish nuqtasi esa biz kabi kompaniyalarning o‘z ishini qanday tashkil etishidir”, — dedi Bourgeois.
AI xavflari haqidagi munozara yo‘nalishi o‘zgarayapti
Hali isbotlanmagan xavflar haqida gapirishga o‘tish Silicon Valley uchun qulayroq muhit yaratadi. Bunda ma’lumotlar markazlarining atrof-muhitga ta’siri, nazoratsiz xakerlik hodisalari, AI yordamidagi ommaviy kuzatuv hamda sun’iy intellekt tizimlaridan urushda foydalanish kabi keskin masalalar chetga suriladi, deydi avval OpenAI’ning geosiyosat jamoasiga rahbarlik qilgan Sarah Shoker.
“Yana bir bor ekzistensial xavf haqida gapiryapmiz, ayni paytda bugun mavjud bo‘lgan va xavfsizlik nuqtayi nazaridan juda muhim boshqa ko‘plab xatarlarni ikkinchi planga suryapmiz. AI’dan harbiy texnologiyalarda foydalanishga qarasangiz, bu tizimlar allaqachon odamlarni o‘ldirish uchun ishlatilayotganini ko‘rasiz”, — dedi Kaliforniya universitetining Berkeley Risk & Security Lab’ida katta mustaqil ekspert bo‘lib ishlaydigan Shoker.