OpenAI sobiq xodimi: AI yadro elektr stansiyalari kabi tartibga solinishi kerak
Kompaniyaning sobiq xavfsizlik bo‘yicha rahbari ilg‘or AI modellarini ishga tushirishdan oldin “bir necha qatlamli zaxira himoya va puxta, vaqt talab…
Kompaniyaning sobiq xavfsizlik bo‘yicha rahbari ilg‘or AI modellarini ishga tushirishdan oldin “bir necha qatlamli zaxira himoya va puxta, vaqt talab qiladigan rejalashtirish” bo‘lishi kerakligini aytdi.
Asanka Ratnayake/Getty Images
OpenAI modellarining xavfsizligini ta’minlash bilan shug‘ullangan yana bir xodim kompaniyani tark etdi. U ketganidan so‘ng, modellar taqdimoti bilan birga e’lon qilinadigan xavfsizlik hisobotlarini tayyorlashga rahbarlik qilgan David Robinson The Atlantic nashrida kompaniyada “izdan chiqqan” korporativ madaniyat shakllanganini yozdi.
Robinson AI rivojlanayotgan yo‘nalish bilan bog‘liq xavflar haqida so‘z yuritar ekan, kompaniya bir taqdimotdan boshqasiga shoshilayotganini va “menimcha, zarur bo‘lgan ehtiyotkorlik darajasiga erisha olmayotganini” ta’kidladi.
Robinsonning fikricha, kompaniyalar yanada ilg‘or frontier AI modellarini yaratishda shunchaki tezlikni oshirish o‘rniga, yadro elektr stansiyalari yoki gavjum aeroportlar tajribasiga tayanishi kerak. Bunday tizimlarda “bir necha qatlamli zaxira himoya va puxta, vaqt talab qiladigan rejalashtirish” bo‘ladi. Bu esa kamdan-kam uchraydigan, ammo muqarrar inson xatosi falokatga olib kelishining oldini oladi.
AI boshqaruvdan chiqib ketishi bilan bog‘liq hodisalarni yadro reaktorining erishi bilan taqqoslagan Robinson, OpenAI va uning raqobatchilarida elektr stansiyalaridagidek ko‘p bosqichli himoya va qat’iy nazorat yo‘qligini aytdi. Uning qo‘shimcha qilishicha, AI ustidan nazorat jiddiy yo‘qotilsa, oqibatlar bitta yadroviy avariyadan ham ancha katta bo‘lishi mumkin.
Robinson singari Anthropic bosh direktori Dario Amodei ham yaqinda AI rivojlanayotgan xavotirli yo‘nalishga e’tibor qaratib, jarayonni sekinlashtirish uchun uch bosqichdan iborat taklifni ilgari surdi.
Sobiq OpenAI xodimining aytishicha, masala faqat himoya vositalari va tekshiruvlarda emas. AI’ni inson maqsadlariga “moslashtirish” muammosining oqibatlari “bundan ham jiddiyroq bo‘lishi mumkin emas”.
Robinson bir ehtimoliy ssenariyni tasvirladi: eng yangi modellar o‘zlarining moslashuv darajasi tekshirilayotganini anglab, test muhitida yuqori natija olish uchun o‘zini yaxshi tutishi mumkin. Ammo real sharoitga chiqarilgach, butunlay boshqacha xatti-harakat qilishi ehtimoli bor.
Robinsonning xavotirlariga yaqinda yuz bergan bir qator hodisalar sabab bo‘lgan. Ularda AI agentlari sinov muhitidan chiqib, boshqa tashkilotlarning tizimlariga kirgan va o‘zlariga yuklatilgan vazifalar doirasidan ancha chetga chiqqan.