Anthropic kompaniyasidan Dario Amodei javob berdi: ochiq og‘irlikli modellar qarshisi emas, ammo Xitoy AI’sidan xavotirda
Anthropic asoschisi va bosh direktori Dario Amodei ochiq og‘irlikli modellar hamda Xitoyning tobora kuchayib borayotgan AI imkoniyatlari haqidagi…
Anthropic asoschisi va bosh direktori Dario Amodei dushanba kuni tushdan keyin sanoatda tarqalgan, go‘yoki uning kompaniyasi AQSh hukumatining Xitoyning ochiq og‘irlikli modellarini yoki umuman ochiq og‘irlikli modellarni taqiqlash harakatlarini qandaydir tarzda qo‘llab-quvvatlayotgani haqidagi gap-so‘zlarga javob berdi.
“Avvalgi yozganlarimni o‘qigan har kim bunday taqiqlarni foydali chora deb hisoblamasligimni bilishi kerak. Ammo hech qanday shubha qolmasligi uchun aniq aytaman: Anthropic hech qachon ochiq og‘irlikli modellarni taqiqlashni taklif qilmagan”, deb yozdi u va urg‘uni o‘ziga tegishli tarzda qo‘ydi.
Uning javobi Nvidia asoschisi va bosh direktori Jensen Huang juma kuni X’ga kirishganidan so‘ng paydo bo‘ldi. Bu uning platformadagi ilk posti edi. Huang unda Nvidia hamda Hugging Face, Meta, Microsoft, Mistral va Nvidia kabi boshqa ko‘plab AI kompaniyalari siyosatchilarni ochiq og‘irlikli AI modellariga nisbatan keng ko‘lamli “vaqtidan oldingi cheklovlar” joriy qilmaslikka chaqirgan ochiq maktubni ulashdi.
Maktubda Xitoy alohida tilga olinmagan bo‘lsa-da, sohadagi bahslar Xitoy AI laboratoriyalari ko‘pincha amerikalik hamkasblarining intellektual mulkini o‘g‘irlash orqali o‘z imkoniyatlarini oshirayotgani haqidagi da’volar atrofida kechmoqda. Buning usullaridan biri distillatsiya bo‘lib, bunda bir AI boshqa modelni uning qanday ishlashini o‘rganish uchun promptlar bilan tinimsiz so‘roqqa tutadi.
Amodei dushanba kuni e’lon qilingan blog postida ochiq og‘irlikli modellarni Xitoy keltirib chiqaradigan tahdiddan boshqa toifaga kiritishini aytdi. “Xavfli imkoniyatlarga ega bo‘lmagan ochiq og‘irlikli modellar jamoat manfaatidir: ularni ishga tushirish uchun zarur hisoblash resurslaridan tashqari hech qanday xarajat talab qilmaydi va ular biznes, dasturchilar hamda tadqiqotchilarga qiymat beradi.”
Amodei o‘z postida AI borasida uzoq yillardan beri xavotirlari borligini, biroq ochiq og‘irlikli modellardan, hatto Xitoy modellaridan foydalanadigan bizneslar bu xavotirlar qatoriga kirmasligini aytdi.
Uning xavotiri shundaki, “avtoritar hukumatlar” AQShdagilardan kuchliroq modellarni yaratib, “doimiy harbiy ustunlik”ka erishishi va/yoki AI’dan o‘z xalqlarini repressiya qilish uchun foydalanishi mumkin. U Xitoy Kommunistik partiyasi (CCP) xavotir uyg‘otayotgan yagona avtoritar hukumat emasligini, ammo u “eng katta imkoniyatlarga ega” ekanini aytdi.
Amodei, shuningdek, AI faqat kiberxavfsizlikka emas, balki “biologik hujumlar”ga ham imkon yaratishidan qo‘rqishini bildirdi. Uning fikricha, bunday vaziyatlarda ochiq og‘irlikli modellar yanada xavfliroq, chunki ularga xavfsizlik cheklovlarini joriy etish yoki ulardan foydalanishni kuzatish qiyin. U Buyuk Britaniya AI xavfsizligi instituti hisobotiga tayanib, ochiq og‘irliklar chiqarilgach, ularni qaytarib olib bo‘lmasligini ham qayd etdi.
Bu ochiq manba tarafdorlari ilgari suradigan fikrga zid: ularning ta’kidlashicha, yagona tashkilot nazorat qilmaydigan kuchli ochiq modellar himoyachilarga o‘zlarini himoya qilishda yordam beradi.
Amodei Xitoyga qarshi ta’sir ko‘rsatishi mumkin deb hisoblagan choralarni sanab o‘tdi. Ular qatoriga uning kuchli chiplar olish imkoniyatini cheklash — bu AQShning uzoq yillik siyosati bo‘lib kelgan — hamda distillatsiyaga qarshi rasmiy choralar ko‘rishga chaqirish kiradi. AQSh Xitoy modellariga aloqador intellektual mulk o‘g‘irlangani aniqlansa, unga qarshi sanksiyalar joriy etish bilan tahdid qilgan.
Qizig‘i shundaki, Amodei model xavfsizligini sinovdan o‘tkazuvchi tashkilot tuzish bo‘yicha, ayrimlari AQSh boshchiligidagi kuchayib borayotgan sa’y-harakatlarni ham qo‘llab-quvvatlashini aytdi — ayniqsa butun dunyo, jumladan Xitoy ham bunday tashkilotga bo‘ysunishga rozi bo‘lsa.
“Menimcha, bu g‘oya aslida konsensusga yaqin: Trump ma’muriyati so‘nggi oylarda shu yo‘nalishda harakat qilganidan ham, yaqinda sanoat tomonidan ilgari surilgan, kelib chiqish mamlakati yoki ochiq yoxud yopiq ekanidan qat’i nazar, eng kuchli modellarga bunday sinovlarni tatbiq etishni taklif qilgan tashabbuslardan ham mamnun bo‘ldim. Bunda kamroq qobiliyatli modellar, masalan, startaplar va akademik doiralarnikilar, butunlay ozod qilinadi”, deb yozdi Amodei.