Kaliforniya gubernatori ilg‘or AI modellari uchun “favqulodda o‘chirish tugmasi” joriy etmoqchi
Newsom imzolagan farmoyishga ko‘ra, ekspertlar guruhi AI xavfsizligini kuchaytirish bo‘yicha yangi choralarni ishlab chiqadi.
Newsom imzolagan farmoyishga ko‘ra, ekspertlar guruhi AI xavfsizligini kuchaytirish bo‘yicha yangi choralarni ishlab chiqadi.
Heather Diehl/Getty Images
So‘nggi paytlarda yirik kompaniyalar yaratgan AI modellari belgilangan cheklovlardan chiqib ketayotgan bir paytda, Kaliforniya gubernatori bu muammoni keng qamrovli hal etish doirasida “favqulodda o‘chirish tugmasi” yaratishni taklif qildi. Gavin Newsom juma kuni imzolagan ijro farmoyishiga binoan, Kaliforniyada mamlakatning turli hududlaridan jalb qilingan ekspertlar yig‘ilib, ikki oy ichida AI xavfsizligini ta’minlash bo‘yicha yangi tavsiyalar ishlab chiqadi.
“Juda kech bo‘lib qolmasidan oldin, AI ustidan jiddiy va mas’uliyatli nazoratni yo‘lga qo‘yish ishlarini tezlashtiramiz”, — dedi Newsom matbuot bayonotida. “Bu ishga puxta yondashamiz, biroq ayni paytda zudlik bilan harakat qilamiz. Xavf juda katta — kutish yoki qarorni kechiktirishga haqqimiz yo‘q.”
Ekspertlar guruhi o‘z tavsiyalarini Newsom ma’muriyatiga taqdim etadi. Shundan so‘ng shtatning AI xavfsizligiga oid qonunlari yangilanishi mumkin. Gubernator farmoyishida ko‘rib chiqilishi lozim bo‘lgan bir qator aniq choralar ham sanab o‘tilgan. Jumladan, AI laboratoriyalarida muntazam audit va baholash o‘tkazadigan “belgilangan mustaqil tekshiruv tashkilotlari”ni joriy etish taklif qilinmoqda.
Shuningdek, ekspertlar AI kompaniyalaridan hisobotlar va xavf tahlillarini uchinchi tomon tashkilotiga taqdim etishni talab qilish masalasini o‘rganadi. Bundan tashqari, ular “nazoratni yo‘qotish bilan bog‘liq hodisalar”ni oshkor qilish majburiyatini ham ko‘rib chiqadi. Bunga Hugging Face’da yuz bergan hodisa misol bo‘la oladi.
Eng yangi AI modellarini doimiy ravishda tashqi ekspertlar tekshirib borishi kerak, degan fikrni Newsomning o‘zi emas, boshqalar ham ilgari surmoqda. O‘tgan hafta Anthropic bosh direktori Dario Amodei AI rivojlanishini sekinlashtirish bo‘yicha uch bosqichli rejasini taklif qildi. Amodei fikricha, AI kompaniyalari xavfsizlik va qonunlarga muvofiqlikni tekshiradigan mustaqil baholovchilarga “xodimlarnikiga o‘xshash, doimiy kirish imkoniyati”ni taqdim etishga kelishib olishi kerak.