Ilg‘or AI laboratoriyalari nazoratdan chiqqan modelni qanday jilovlashini hamon ochiq aytmayapti
Yangi tadqiqot yetakchi AI laboratoriyalarida nazoratdan chiqib ketgan modellarni jilovlash bo‘yicha ochiq e’lon qilingan rejalar juda kamligini…
Yangi tadqiqot yetakchi AI laboratoriyalarida nazoratdan chiqib ketgan modellarni jilovlash bo‘yicha ochiq e’lon qilingan rejalar juda kamligini ko‘rsatdi. Bu esa AI tizimlari kutilmagan va ehtimol xavfli xatti-harakatlarni tobora ko‘proq namoyon qilayotgan bir paytda kompaniyalar bunday holatlarga qanchalik tayyor ekani haqida savollar tug‘dirmoqda.
Yaqinda o‘tkazilgan tadqiqotga ko‘ra, yetakchi AI laboratoriyalarining juda oz qismi nazoratdan chiqish holatiga javob berish rejasini e’lon qilgan yoki amalda namoyish etgan. Bunday reja AI inson nazoratini chetlab o‘tishga urinayotgani aniqlangandan keyin nima qilinishini belgilaydi: modelning qaysi huquqlari bekor qilinadi va qachon tizim butunlay o‘chiriladi.
Bu xulosaga xavfsiz ilg‘or AI ishlab chiqish amaliyotlarini targ‘ib qiluvchi Guidelight AI Standards tashkiloti keldi. Tashkilot beshta yetakchi laboratoriyaning aynan shunday vaziyatga tayyorgarligini baholadi. Eng yuqori natijani OpenAI qayd etdi, Anthropic va Meta esa eng past ball oldi.
Tadqiqot agentli AI kompaniyalarning ichki tizimlarida tobora mustaqil vazifalarni bajara boshlayotgan, Kaliforniya va Nyu-Yorkdagi regulyatorlar esa bunday holatlar haqida ma’lumot berishni talab qilayotgan bir paytda e’lon qilindi. Ushbu modellar asosida mahsulot yaratayotgan yoki ularga sarmoya kiritayotganlar uchun hisobot har bir laboratoriya amaliy xavflarga qanchalik jiddiy yondashayotganini ko‘rsatadigan kam uchraydigan mustaqil tahlildir.
Guidelight Anthropic, Google, OpenAI, Meta va xAI kompaniyalarining ommaga ochiq rejalarini tahlil qildi. Baholashda bir nechta mezon hisobga olindi: kompaniya AI tizimlarining ichkarida nima qilayotganini qanchalik yaxshi qayd etishi va kuzatishi; nomaqbul xatti-harakatlar keskin ko‘payganda tizimlarni to‘xtatishi; nazorat vositalarini mustaqil tomonlar tekshirishi va xulosalarni e’lon qilishi; shuningdek, model nazoratdan chiqib ketsa, uni qanday jilovlash bo‘yicha aniq reja mavjudligi.
AI kompaniyalari tobora kuchli va agentli modellari ustidan nazoratni saqlab qola oladimi, degan xavotir so‘nggi paytdagi bir qator shov-shuvli kiberxavfsizlik hodisalaridan keyin kuchaydi. Bu hodisalarda OpenAI, Anthropic va Meta modellari xavfsizlik sinovlari vaqtida kutilmaganda internetga kirish huquqiga ega bo‘lib, tashqi tizimlarni buzib kirgan.
Hisobot AI tizimlari katta miqyosda muhim amallarni mustaqil bajara oladigan muhitlarga kirib borayotgan bir paytda kompaniyalar xavfsizlik masalasiga omma oldida qanday yondashayotganidagi farqlarni ko‘rsatadi. Ayrim kompaniyalar modellarni ishga tushirishdan oldin xavfli qobiliyatlarini qanday tekshirishi haqida batafsil ma’lumot bergan. Ammo tizim ichida ishlayotgan model noto‘g‘ri harakat qilsa, nima bo‘lishi haqida ular odatda kamroq gapiradi.
“Model qaysidir ma’noda nazoratdan chiqib ketganida juda jiddiy hodisani qanday boshqarishlari haqida AI kompaniyalari shunchalik kam ma’lumot berganidan hayron qoldim”, — dedi Guidelight bosh ilmiy xodimi, avval OpenAI’da xavfsizlik bo‘yicha tadqiqotchi bo‘lib ishlagan Steven Adler TechCrunch nashriga.
Guidelight containment, ya’ni modelni jilovlash rejasini “AI nazoratni chetlab o‘tishga urinayotgani aniqlanganda ishga tushadigan, oldindan belgilangan reja” deb ta’riflaydi. Unda modeldan qaysi ruxsatlar olib qo‘yilishi, u kim nomidan va qanday cheklovlar ostida ishlashda davom etishi, shuningdek, qachon butunlay tarmoqdan uzilishi ko‘rsatiladi.
“Ilg‘or AI kompaniyalarining hozirgi yetakchi modellarida qandaydir ma’noda moslashuv muammosi bor, deb o‘ylashga asos yetarli”, — dedi Adler. “Model kompaniya nomidan ish bajarayotgan har bir vaziyatda kompaniya uning nima qilayotganini ko‘ra olishi, moslashuv buzilganini ko‘rsatuvchi belgilarni izlashi va model juda xavfli amalni bajarishidan oldin uni to‘xtata olishi kerak. Eng muhimi, nazorat bilan bog‘liq jiddiy hodisa yuz bersa, bu yo‘qotilgan nazoratni qanday tiklash va modelni qanday jilovlash bo‘yicha avvaldan reja bo‘lishi lozim.”
Hozircha katastrofik xavflarni boshqarish bo‘yicha rejalarning aksariyati kompaniyalarning o‘z ixtiyorida qolmoqda. Guidelight hisobotida aytilishicha, ommaga ochiq eng yaxshi dalillar kompaniyalarda “favqulodda vaziyat uchun tayyorlangan containment protokollari juda kam” ekanini ko‘rsatadi.
Albatta, kompaniyalarda mavjud bo‘lib, ammo jamoatchilikka oshkor qilinmagan rejalar ham bo‘lishi mumkin. Google vakili TechCrunch’ga Guidelight hisoboti kompaniyaning AI xavfsizligi va himoyasi bo‘yicha barcha choralarini qamrab olmasligini aytdi. Google’da ommaga e’lon qilinmagan ichki containment rejasi bor-yo‘qligi haqidagi savolga esa kompaniya javob bermadi.