Anthropic AI-agentlar jismoniy dunyoda qanday ishlashi kerakligini tushuntirdi
Anthropic fikricha, AI yordamida ilmiy tadqiqotlar va ishlab chiqarishni avtomatlashtirish imkoniyatlari yangi xavflar bilan birga ko‘rib chiqilishi kerak.
Anthropic fikricha, AI yordamida ilmiy tadqiqotlar va ishlab chiqarishni avtomatlashtirish imkoniyatlari yangi xavflar bilan birga ko‘rib chiqilishi kerak.
Sun’iy intellekt agentlari ba’zan chalkashib, boshqa kompyuterlarga buzib kirishi mumkin. Biroq Anthropic bu “sho‘x” tizimlarni ilmiy laboratoriyalar va ishlab chiqarish korxonalarida xavfsiz qo‘llash yo‘lini topganiga ishonmoqda.
AI kompaniyasi bugun yangi tizim haqida ma’lumot berdi. U AI agentlariga mikroskoplar, suyuqlik bilan ishlovchi uskunalar, kvant hisoblash qurilmalari, ishlab chiqarish mashinalari va robot qo‘llari kabi jismoniy tizimlardan qanday foydalanishni o‘rgatishga mo‘ljallangan.
Model Hardware Standard deb atalgan ushbu tizim turli xil qurilmalar bilan ishlashda AI agentlari nimalarni qilishi va nimalardan tiyilishi kerakligini belgilovchi qoidalar to‘plamidir. Bu yondashuv AI ilmiy tadqiqotlar va ishlab chiqarish kabi sohalarni tubdan o‘zgartirishi mumkin, degan qarash kuchayayotganini ko‘rsatadi. Biroq buning uchun AI jismoniy dunyoga xavfsiz tarzda kirib borishi kerak.
Kompaniya standartni keng foydalanishga taqdim etishdan oldin xavfsizlikni qanday yuqori darajaga ko‘tarish mumkinligini ishonchli hamkorlar bilan birga aniqlashini aytdi. Bu texnologiyadan noto‘g‘ri foydalanish, masalan, biologik qurollar yaratish xavfi ham bor. Shunga qaramay, kompaniya AI modellarining o‘ziga o‘rnatilgan himoya mexanizmlari yomon niyatli shaxslarning yangi standartdan xavfli maqsadlarda foydalanishiga yo‘l qo‘ymasligiga ishonmoqda.
“Bizni bunga undagan asosiy sabab — ilm-fan rivojini tezlashtirish istagi. Ilmiy adabiyotlarni ko‘rib chiqish va ma’lumotlarni tahlil qilish jarayonini tezlashtirish bilan tajribalar dunyosi o‘rtasidagi uzviy bog‘liqlikni qanday yo‘lga qo‘yamiz?” — deydi standartni ishlab chiqishga rahbarlik qilgan kvant fizigi Alek Kemeny.
Claude va boshqa chatbotlar ilmiy maqolalar yoki tajriba natijalari kabi katta hajmdagi ma’lumotlarni ko‘rib chiqib, yangi xulosalar va g‘oyalarni topishda allaqachon kuchli vositaga aylangan. AI agentlari esa chatbotlardan keyingi bosqich sifatida ko‘rilmoqda. Ular odatda oddiy kompyuterlarda turli amallarni bajaradi, masalan, elektron xatlarga javob yozadi. Bunday agentlar boshqa qurilmalardan ham foydalanishi mumkin. Anthropic esa ular buni amalga oshirayotganda amal qilishi kerak bo‘lgan qoidalarni oldindan belgilashni istamoqda.
Ilmiy kashfiyotlarni AI agentlari yordamida amalga oshirishga qaratilgan loyihalar ustida katta mablag‘ga ega bir nechta startap ishlamoqda. Ular qatoriga Periodic Labs, LILA Sciences, Edison Scientific va Google’ning bir necha taniqli sobiq tadqiqotchilari asos solgan Discovery Loop kiradi. Bu yondashuvning asosiy g‘oyasi shundan iboratki, AI ilmiy farazlarni o‘zi ishlab chiqib, ularni sinab ko‘rishi va shu takrorlanuvchi jarayon orqali ilmiy kashfiyotlarni deyarli avtomatlashtirishi mumkin.
Anthropic’da ushbu standart ustida ishlagan eksperimental biolog Jonah Coolning aytishicha, ilmiy uskunalarni sozlash va ularni boshqa qurilmalar bilan bog‘lash odatda jiddiy tajriba talab qiladi. AI esa mashinalarni sozlashi, ularni bir-biri bilan “muloqot qildirish”i va shu tariqa murakkab muhandislik ishlarining katta qismini avtomatlashtirishi mumkin.
Anthropic standartni ishlab chiqishda bir qator uskunalar ishlab chiqaruvchilari bilan hamkorlik qilmoqda. “Avvallari buning uchun maxsus kod yozishni talab qilgan bir nechta robot tizimlari birgalikda ishlaydigan holatlarni ko‘ra boshlayapmiz”, — deydi Kemeny. Uning qo‘shimcha qilishicha, yangi standart yordamida Claude ishlab chiqarish liniyasidagi robotlarni ko‘rib, ularning ishini qanday optimallashtirishni aniqlay oladi.
So‘nggi paytlarda AI agentlari ko‘proq salbiy sabablar bilan yangiliklarda tilga olinmoqda. Anthropic, OpenAI va boshqa kompaniyalar kiberxavfsizlik muammolarini hal qilish topshirilgan AI agentlari tashqi tizimlarga yashirincha buzib kirgani va inson foydalanuvchilarni aldashga uringani haqida bir necha holatni aniqladi.
AI’ga jismoniy tizimlardan foydalanishga ruxsat berish yangi xavflarni ham yuzaga keltiradi. Chunki bunday tizimlar qurilmalarga zarar yetkazishi yoki odamlarni jarohatlashi mumkin. Masalan, tajribalar davomida AI modellarini chalg‘itib, robotlarni noto‘g‘ri harakat qilishga majburlash mumkinligi ko‘rsatilgan.