Anthropic Claude’ga nisbatan “haqoratli yoki shafqatsiz munosabat”ni taqiqladi
Anthropic kompaniyasi bir yildan ortiq vaqt ichida ilk bor foydalanish siyosatiga o‘zgartirishlar kiritmoqda.
Anthropic kompaniyasi bir yildan ortiq vaqt ichida ilk bor foydalanish siyosatiga o‘zgartirishlar kiritmoqda. Yangilangan qoidalarda saylovlarga aralashish, qurol ishlab chiqish, kuzatuv, shuningdek, sog‘liqni saqlash va moliya sohalaridagi yangi hamda yuqori xavfli suiiste’mol holatlari hisobga olingan. Ammo eng muhim o‘zgarishlardan biri “uzoq davom etadigan va hech qanday zaruratsiz haqoratli yoki shafqatsiz…”
O‘tgan yil avgustida kompaniya “model farovonligi” bo‘yicha tadqiqotlari doirasida Claude “doimiy ravishda zararli yoki haqoratli” munosabatda bo‘ladigan foydalanuvchilar bilan suhbatni yakunlashiga ruxsat berishini ma’lum qilgandi. Yangi yangilanishga ko‘ra, suhbatni tugatish hamon “asosiy chorasi” bo‘lib qoladi. Anthropic bundan tashqari qanday choralar, jumladan, foydalanuvchilarni bloklash imkoniyati qo‘llanadimi-yo‘qmi, izoh bermadi.
Anthropic yangi siyosat “faqat o‘ta og‘ir holatlarga — foydalanuvchi hech qanday tushunarli maqsadsiz, modelga qayta-qayta shafqatsiz munosabatda bo‘ladigan vaziyatlarga” taalluqli ekanini yozdi. “Bu qoida foydalanuvchining odatiy noroziligi, e’tirozi, ijoddagi qorong‘i mavzular yoki modelni sinash va tadqiq qilish holatlariga tatbiq etilmaydi”, deyiladi kompaniya bayonotida.
Model farovonligiga oid o‘zgarishlardan tashqari, Anthropic avvaldan mavjud bo‘lgan bir nechta “tarqoq” cheklovlarni birlashtirib, chalg‘ituvchi tijoriy yoki siyosiy kampaniyalarga qarshi yangi taqiq joriy qildi. Bu sun’iy intellekt yordamida yaratiladigan propaganda muammosi kuchayib borayotgan bir paytga to‘g‘ri kelmoqda.
Yangi qoida xabar ortida kim turganini yashirish yoki soxta akkauntlar va postlar orqali kontentni sun’iy ravishda kengaytirishga qaratilgan “harakatlar”ni cheklaydi. Saylovlarga oid bo‘limda esa saylovchilarni chalg‘itish va saylov jarayonini izdan chiqarish ham taqiqlanadi. Anthropic bunday holatlarga “nomzodlar yoki qanday ovoz berish haqida yolg‘on ma’lumot tarqatish, nomzodlar yoki saylov rasmiylari nomidan ish ko‘rish, yoxud saylovchilarning ishtirokini kamaytirishga urinish”ni kiritdi.
Suhbatni yakunlash hamon “asosiy chora” bo‘lib qoladi.
Anthropic ma’lum qilishicha, Claude yordamida qurol ishlab chiqish avvaldan foydalanish siyosatida taqiqlangan. Biroq kompaniya Claude’dan qurollar uchun yo‘riqnomalar va ularni boshqaruvchi dasturiy ta’minot yaratishda foydalanishga qaratilgan bir nechta urinishlarni aniqlagan. Shu sababli yangi siyosat taqiq doirasini kengaytirib, “qurolning ishlashini ta’minlaydigan dasturiy ta’minot va komponentlar, shuningdek, dronlar va boshqa avtonom transport vositalarini qurollantirish kabi harakatlar”ni ham qamrab oldi.
Kompaniyaning so‘nggi tahdidlar bo‘yicha razvedka hisobotida Claude’dan foydalanadigan kuzatuv tizimlari “siyosiy dissidentlar”ni aniqlash va kuzatishda tobora ko‘proq qo‘llanayotgani aytilgandi. Shu bois Anthropic kuzatuvga oid taqiqlarni ham aniqroq ifodaladi.
“Roziligisiz odamlarni kuzatish taqiqlanadi. Bu real vaqt rejimida amalga oshiriladimi yoki avval to‘plangan ma’lumotlarni tahlil qilish orqali bajariladimi — farqi yo‘q”, deb yozdi Anthropic. “Huquqni muhofaza qilish yoki jinoyat ishlari bo‘yicha sud jarayonida kimni tekshirish, hibsga olish yoki ayblash kerakligini aniqlash yoxud tavsiya qilish uchun Claude’dan foydalanib bo‘lmaydi. Shuningdek, kuzatuv uchun mo‘ljallangan vositalarni yaratish yoki takomillashtirishda Claude’dan foydalanishni ham taqiqlaymiz.”
Anthropic bu qoidalar “ayrim davlat tashkilotlari bilan tuzilgan shartnomalarga … agar Anthropic fikricha, shartnomadagi foydalanish cheklovlari va tegishli himoya choralari ehtimoliy zararni kamaytirish uchun yetarli bo‘lsa”, o‘zgartirilishi mumkinligini bildirdi. Kompaniya bundan avval AQSh harbiylari bilan ham shartnomalar tuzgan.
Anthropic Claude yordamida qurollar uchun yo‘riqnomalar va ularni boshqaruvchi dasturiy ta’minot yaratishga qaratilgan bir nechta urinishlarni aniqlagan.
Anthropic yana bir yangi qoida joriy qildi. Unga ko‘ra, kompaniyaning AI modellari “avtonom jismoniy harakatlarni amalga oshiradigan va jarohat yetkazishi mumkin bo‘lgan qurilmaga ulangan” bo‘lsa, “malakali operator uskunani kuzata olishi va zarur bo‘lsa, uni to‘xtata olishi kerak”. Bu operator inson bo‘lishi shartmi yoki yo‘qmi — hozircha aniq emas.