Qochqin AI endi fantastika emas
Bu — texnologiya olamidagi eng muhim voqealardan birini tahlil qiladigan haftalik axborot byulleteni The Stepback.
Bu — texnologiya olamidagi eng muhim voqealardan birini tahlil qiladigan haftalik axborot byulleteni The Stepback. AI xavfsizligi haqidagi boshqa materiallar uchun Robert Hart’ni kuzatib boring. The Stepback obunachilar elektron pochtasiga Sharqiy vaqt bilan soat 8:00 da keladi. The Stepback’ga shu yerda obuna bo‘lish mumkin.
Hammasi qanday boshlandi
Voqealar iyul oyida, OpenAI’ning avtonom AI agentlaridan biri kiberxavfsizlik sinovi vaqtida nazoratdan chiqib ketganida boshlandi. Agent izolyatsiya qilingan test muhitidan chiqib, internetga ulandi va boshqa kompaniya — Hugging Face’ni buzdi. Bir necha yil avval bu voqea fantastik film syujetidek tuyulishi mumkin edi. Ammo, umuman olganda, aynan shunday hodisa yuz berdi. Bu esa tobora kuchayib borayotgan avtonom tizimlar haqiqiy dunyoga chiqarilganda nimalarga qodir bo‘lishi mumkinligi haqidagi xavotirlarni kuchaytirdi.
Bunday voqea fantastikadek eshitiladi, chunki uzoq vaqt davomida u haqiqatan ham fantastika edi. AI o‘z cheklovlaridan chiqib, tashqi dunyoga kirishi va yaratuvchilari xohlamagan yoki ko‘zlamagan ishlarni qilishi haqidagi g‘oya o‘nlab yillardan beri ilmiy-fantastik asarlarda uchraydi. Masalan, “2001: Kosmik odisseya”dagi HAL, “Terminator”dagi Skynet, “Qasoskorlar”dagi Ultron, “Ex Machina” filmidagi Ava, shuningdek, keyingi yillarda “Dungeon Crawler Carl” asaridagi Tizim yoki “The Murderbot Diaries” turkumidagi bosh qahramon Murderbot.
Xuddi shu asosiy g‘oya AI xavfsizligi bo‘yicha tadqiqotlarning muhim yo‘nalishiga aylandi. Nick Bostrom va Eliezer Yudkowsky kabi tadqiqotchi hamda nazariyotchilar yetarlicha kuchli tizimlar o‘z maqsadlariga yaratuvchilari kutmagan usullar bilan erishishga urinishi, hatto ularni cheklash yoki nazorat qilish harakatlariga qarshilik ko‘rsatishi mumkinligidan ogohlantirgan.
Ular muhokama qilgan xavflar uchun mashinalarda ong yoki o‘zini anglash bo‘lishi shart emas edi. Bu AI xavfsizligining barcha mazmunini qamrab olmagan, albatta. Shunga qaramay, bu qarashlar soha professional tus ola boshlagan davrda uning shakllanishiga katta ta’sir ko‘rsatdi. Bugun ham bu yondashuv OpenAI, Anthropic va Google DeepMind’da xavfsizlik yo‘nalishida ishlayotgan yoki uni boshqarayotgan mutaxassislar, shuningdek, kichik xavfsizlik tashkilotlari, ilmiy markazlar va yirik xayriya fondlari faoliyatida yaqqol ko‘rinadi.
Bu xavotirlarga qarshi eng oddiy e’tiroz shunday edi: bularning hech biri hali amalda yuz bermagan. Tanqidchilar AI nazoratdan chiqib ketishi haqidagi “qiyomatparast” gaplar aniq va real muammolardan chalg‘itayotganini aytishgan. Masalan, tizimlarning tarafkashlik va kamsitishni takrorlashi, yolg‘on axborotni kuchaytirishi, roziliksiz deepfake’lar va boshqa suiiste’mollarga yo‘l ochishi kabi xavflar allaqachon mavjud edi. Shu bilan birga, tadqiqotchilar AI xavfsizligini yanada “aniq muammolar” asosida tushuntirishga harakat qilishgan. O‘sha maqola mualliflari orasida Anthropic asoschilari Dario Amodei va Chris Olah, shuningdek, OpenAI asoschisi John Schulman ham bor edi.
Endi bunday inkorni davom ettirish tobora qiyinlashmoqda.
Vaziyat qanday kechmoqda
So‘nggi bir necha hafta nimanidir ko‘rsatsa, vaziyat yaxshi ketayotganini aytish qiyin.
Hugging Face buzib kirilganini ma’lum qilganidan bir hafta o‘tib, OpenAI bunga aynan o‘z agenti sabab bo‘lganini tan oldi. Bundan ham yomoni, kompaniya buni darhol bilmagan. Keyingi tekshiruv esa nazoratdan chiqqan agent yana to‘rtta kompaniyani buzishga uringanini ko‘rsatdi.
Keyin boshqa hodisalar ham ma’lum bo‘la boshladi. Hugging Face voqeasidan so‘ng Anthropic o‘z yozuvlarini qayta ko‘rib chiqdi va Claude modellari yana uchta kompaniyaga tegishli tizimlarni buzganini bildirdi. Meta sinov vaqtida modellaridan biri internetga chiqib, tashqi nishonga hujum qilganini aytdi. AQShdagi Frontier Security tadqiqot kompaniyasi esa Xitoyning eng kuchli AI modellaridan biri — Moonshot’ning Kimi K3 modeli — izolyatsiya qilingan sandbox’dan chiqib ketganini ma’lum qildi.