OpenAI kompaniyasida xavfsizlik bo‘yicha xodim iste’foga chiqdi: “Korporativ madaniyat izdan chiqqan”
David Robinsonning o‘zi tan olganidek, u “ma’lum ma’noda odatiy holatga aylangan” xodim: yetakchi AI kompaniyasida ishlab, iste’foga chiqish paytida…
David Robinsonning o‘zi tan olganidek, u “ma’lum ma’noda odatiy holatga aylangan” xodim: yetakchi AI kompaniyasida ishlab, iste’foga chiqish paytida jiddiy ogohlantirish berayotgan mutaxassis.
The Atlantic nashrida e’lon qilingan maqolasida Robinson OpenAI’ning yirik mahsulotlari taqdimotiga hamroh bo‘lgan xavfsizlik hisobotlarini tayyorlashga rahbarlik qilganini yozdi. Shuningdek, u OpenAI’da uch yarim yil ishlagani va shu sabab kompaniyadagi “eng uzoq muddat faoliyat yuritgan xodimlardan biri” ekanini aytdi. Endi esa u kompaniyaning “korporativ madaniyati izdan chiqqan”, degan xulosaga kelgani uchun ishdan ketmoqda.
Robinsonning fikrlari ayrim jihatlari bilan OpenAI va Anthropic’da tadqiqotchi bo‘lib ishlagan, keyinchalik esa iste’foga chiqib, bu kompaniyalar “hayotimizni xavf ostiga qo‘yib, tavakkal qilmoqda”, degan Jacob Coxonning bayonotlariga o‘xshaydi. Coxonning so‘zlari AI xavfsizligi borasida kengroq munozaraga sabab bo‘ldi. Anthropic bosh direktori Dario Amodei ehtiyotkorroq AI ishlab chiqish rejasini taqdim etdi. Bu hafta AI kompaniyalari rahbarlari Prezident Donald Trump bilan uchrashib, xavfsizlik choralarini kuchaytirishga qaratilgandek ko‘ringan, shoshilinch tayyorlangan va majburiy kuchga ega bo‘lmagan va’dani imzoladi.
Biroq Robinsonning fikricha, muhokama “muayyan qoidalar yoki yangi qonunlar” bilan cheklanib qolmasligi, avvalo bu kompaniyalardagi umumiy madaniyat masalasiga e’tibor qaratilishi kerak. OpenAI haqidagi xabarlarning katta qismi kompaniya bosh direktori Sam Altman sobiq hamkasblari ishonchini qanday yo‘qotganiga bag‘ishlangan. Robinsonning maqolasi esa OpenAI’dagi muammolar aslida butun Silicon Valley’ga xos ekanini ko‘rsatadi.
“OpenAI sinov va xatolar orqali — kompaniya buni ‘bosqichma-bosqich joriy etish’ deb ataydi — rivojlandi: muammolarni aniqlab, shunga qarab himoya mexanizmlarini takomillashtirdi”, deb yozdi u. “Ammo bu yondashuvning o‘zi vaqti-vaqti bilan xatolar yuz berishini muqarrar qiladi. Tizimlar qobiliyati oshgani sari, bunday xatolarning ko‘lami ham kattalashmoqda.”
Robinson OpenAI agentlari yaqinda Hugging Face tizimlarini buzib kirgani, shuningdek, kompaniya tobora ko‘proq nazoratdan chiqib ketgan agentlarni aniqlayotgani haqidagi ma’lumotlarga ishora qildi. Uning ta’kidlashicha, “shunday hodisalar yuz berishi mumkin bo‘lgan muhit bizdan aqlliroq bo‘lishi va biz istagandek harakat qilmasligi ehtimoli bor sun’iy onglarni yaratish uchun mos joy emas”.
Xavf ortib borayotganini hisobga olib, Robinson ilg‘or AI bilan shug‘ullanuvchi kompaniyalar “atom elektr stansiyalari yoki gavjum aeroportlar kabi” ishlay boshlashi kerakligini aytdi. Ya’ni, ular bir necha pog‘onali zaxira tizimlari va puxta, ko‘p vaqt talab qiladigan rejalashtirishga ega bo‘lishi lozim. Shunda vaqti-vaqti bilan muqarrar yuz beradigan inson xatosi halokatga olib kelmaydi.
Biroq Robinson OpenAI’da ishlagan davrida “samolyotlarni xavfsiz uchirish, yadro reaktorlarini erib ketishiga yo‘l qo‘ymaslik yoki moliyaviy tizimni qulamagan holda rivojlantirish tajribasiga ega birorta hamkasbini uchratmaganini” aytdi.
Robinson maqolasiga javoban OpenAI vakili Drew Pusateri kompaniya xavfsizlik choralarini takomillashtirishda davom etayotganini bildirdi.
“Modellarimizni xavfsiz boshqarish va himoyalash imkoniyatimizdan oshib ketadigan darajada qobiliyatli bo‘lib qolmasligini ta’minlayapmiz. Zarur bo‘lsa, mashg‘ulotlarni to‘xtatamiz yoki modellarni chiqarishni kechiktiramiz”, dedi Pusateri bayonotida. “Tadqiqot va sinov muhitlarimizdagi xavfsizlikni kuchaytirish uchun jiddiy o‘zgarishlar qilmoqdamiz. Modellarni shunchaki topshiriqlarni bajarishga emas, balki buni mas’uliyat bilan amalga oshirishga ham o‘rgatyapmiz. Uchinchi tomon baholovchilari bilan hamkorlikni kengaytiryapmiz va mashg‘ulot jarayonining dastlabki bosqichlaridayoq xavotirli xatti-harakatlarni aniqlash hamda ularga javob berish uchun real vaqt monitoringini yaxshilayapmiz.”
Robinson OpenAI’dagi madaniyatni o‘zgartirishga chaqirish bilan cheklanmay, alignment — ya’ni AI tizimlarining inson qadriyatlari va maqsadlariga mosligini ta’minlash masalasi haqida ham kengroq savollar berish vaqti kelganini aytdi. U bu mavzu “hissiyotga berilgan gapdek” eshitilishi mumkinligini tan oldi, biroq kompaniyalarning AI tizimlari “inson qadriyatlariga qanchalik mos kelishini” o‘lchashdagi hozirgi mezonlari juda sodda ekanini ta’kidladi.
“Bu muammolar hal qilinmagan bir paytda soha modellarni qanchalik aqlli bo‘lishiga yo‘l qo‘ysa, vaziyatimiz shunchalik xavfli tus oladi”, dedi u.