Nyu-York AI kompaniyalaridan ko‘proq javobgarlik talab qilmoqda
5-oktabr kuni Nyu-York shahar kengashida sun’iy intellekt xavfsizligiga bag‘ishlangan eshituv bo‘lib o‘tdi.
5-oktabr kuni Nyu-York shahar kengashida sun’iy intellekt xavfsizligiga bag‘ishlangan eshituv bo‘lib o‘tdi. Unda shahar kengashining 51 nafar a’zosi to‘liq ishtirok etdi. OpenAI, Anthropic, Google va Meta vakillari AI texnologiyalari bilan bog‘liq xavflar hamda kompaniyalari ko‘rayotgan xavfsizlik choralari yuzasidan savollarga javob berdi.
Bu eshituv AI kompaniyalarining AI xavfsizligi masalasidagi qasamyod ostidagi ilk yirik ommaviy chiqishlaridan biri bo‘ldi. Kompaniyalar dastlab kengash taklifini rad etgandi. Biroq sudga chaqiruv yuborilishi xavfi paydo bo‘lgach, ishtirok etishga rozi bo‘ldi. Meta esa boshidanoq o‘z vakilini yuborishga rozilik bildirgan.
Kompaniyalarning bosh direktorlar eshituvda qatnashmadi. Ularning o‘rniga yuqori lavozimli vakillar keldi. Anthropic nomidan Frontier Red Team rahbari Logan Graham, OpenAI nomidan siyosatni ishlab chiqish va operatsiyalar bo‘limi rahbari Morgan Dwyer, Google nomidan AI va yangi texnologiyalar siyosati direktori Alice Friend, Meta nomidan esa AI siyosati direktori Shane Cahill ishtirok etdi.
Kengashning asosiy e’tibori faqat AI modellarining o‘ziga emas, balki ular keltirishi mumkin bo‘lgan zarar va bunday holatlarda kompaniyalar zimmasidagi javobgarlikka ham qaratildi.
Kengash ko‘rib chiqayotgan takliflardan biriga ko‘ra, AI tizimlari bozorga chiqarilishidan oldin mustaqil uchinchi tomon tomonidan sinovdan o‘tkazilishi kerak bo‘ladi. Ya’ni model Nyu-York shahrida sotilishi yoki foydalanishga topshirilishidan avval uning xavfsizligi, ma’lumotlar maxfiyligi, xolisligi va boshqa jihatlari tekshiriladi. Tizimda inson boshqaradigan favqulodda o‘chirish mexanizmi — “kill switch” ham bo‘lishi shart. Bu talablarga rioya qilmagan kompaniyalarga 25 000 dollargacha jarima solinishi mumkin.
Yana bir taklif AI kompaniyalari faoliyati tufayli zarar ko‘rgan odamlarga sud orqali tovon undirish imkonini berishni nazarda tutadi. Bu qoida zarar oldindan oqilona taxmin qilish mumkin bo‘lgan, kompaniya esa uning oldini olish uchun yetarli choralar ko‘rmagan holatlarga taalluqli bo‘ladi.
Kengash AI bilan bog‘liq xavfsizlik hodisalari ustidan nazoratni ham kuchaytirmoqchi. Masalan, shahar bilan hamkorlik qiladigan kompaniyalardan AI bilan bog‘liq xavfsizlik hodisalari haqida 24 soat ichida xabar berish talab qilinishi mumkin. Bunday holatlar jamoatchilikka ham e’lon qilinishi ehtimoli bor. Yana bir taklif kompaniyalardan AI bilan bog‘liq favqulodda vaziyatlar uchun aniq harakat rejalarini ishlab chiqishni talab qiladi.
Eshituvda AI kompaniyalarida qonunbuzarlik yoki xavfli amaliyotlar haqida xabar beradigan xodimlarni — ya’ni “whistleblower”larni himoya qilish masalasi ham muhokama qilindi. Takliflardan biriga ko‘ra, AI bilan bog‘liq qoidabuzarliklar haqida xabar bergan shaxslar natijada undirilgan jarima yoki boshqa mablag‘larning bir qismini olishi mumkin.
Bu tashabbuslar hali qonunga aylangani yo‘q. Hozir ular muhokama qilinmoqda va yakuniy ko‘rinishi o‘zgarishi mumkin. Nyu-York shahar kengashining rasmiy hujjatlarida ushbu takliflarning aksariyati hanuz “preconsidered”, ya’ni dastlabki ko‘rib chiqish bosqichida ekani ko‘rsatilgan.
Nyu-Yorkdagi bu jarayon AQShda AI kompaniyalarini qanday tartibga solish kerakligi haqidagi kengroq munozaraning bir qismidir. Hozircha kompaniyalar asosan o‘zlarining ichki xavfsizlik tizimlariga tayanmoqda. Shahar kengashi esa bu talablarning ayrimlarini qonun orqali majburiy qilish imkoniyatini ko‘rib chiqmoqda.
Agar takliflar qabul qilinsa, Nyu-York shahrida faoliyat yuritadigan AI kompaniyalari nafaqat modellar yaratishi, balki mustaqil xavfsizlik sinovlaridan o‘tishi, favqulodda o‘chirish mexanizmlarini ta’minlashi, xavfsizlik hodisalari haqida xabar berishi va foydalanuvchilarga yetkazilgan ayrim zararlar uchun javob berishi kerak bo‘ladi.
Shu sababli 5-oktabrdagi eshituvni AI haqidagi navbatdagi muhokama sifatida emas, balki kelajakda AI kompaniyalari qanday tartibga solinishini belgilashi mumkin bo‘lgan qonunchilik jarayonining bir qismi sifatida baholash mumkin.