Anthropic Claude’dagi yangi raqamli belgilar qanday ishlashini batafsil tushuntirdi
Raqamli belgi amalda qanday ishlaydi? Tahrirlash orqali uni yashirish mumkinmi? Bu kodga qanday ta’sir qiladi?
Raqamli belgi amalda qanday ishlaydi? Tahrirlash orqali uni yashirish mumkinmi? Bu kodga qanday ta’sir qiladi?
Anthropic juma kuni o‘z blogida Claude chatboti yaratgan matnlarga raqamli belgi qo‘yish tizimi haqida asosiy savollarga javob berdi. Masalan, bu belgi amalda qanday ishlaydi, matnni tahrirlash orqali uni yashirish mumkinmi va texnologiya kodga qanday ta’sir qiladi?
Kompaniya shu hafta boshida Yevropa Ittifoqining AI to‘g‘risidagi qonunidagi Shaffoflik kodeksiga rioya qilish uchun ushbu tizimni joriy etishini ma’lum qilgan edi. Mazkur talab AI kompaniyalaridan sun’iy intellekt yaratgan kontentni aniqlash imkonini beradigan tizimlardan foydalanishni so‘raydi. Shundan beri Claude foydalanuvchilari bu qarorni muhokama qilmoqda.
Masalan, Reddit’dagi bir foydalanuvchi buni begunoh Claude foydalanuvchilariga qarshi uyushtirilgan fitna deb atagan. Boshqa biri esa: “Buni istamaslikning yagona sababi — odamlarni aldash”, deb yozgan. Business Insider nashrining xabar berishicha, X tarmog‘ida “o‘nlab” foydalanuvchilar shu sababli Claude obunasini bekor qilganini bildirgan.
Anthropic yangi maqolasida avvalo raqamli belgi g‘oyasini umumiy tarzda tushuntirdi. Kompaniya fikricha, Claude “katta ahamiyatga ega bo‘lmagan tanlovlar”da, masalan, ob-havoni tasvirlash uchun “bulutli” yoki “xira” so‘zlaridan birini tanlashda, javob ichida o‘quvchiga sezilmaydigan, ammo uni aniqlash uchun maxsus kalitga ega bo‘lganlar ko‘ra oladigan muayyan naqsh yaratishi mumkin.
“Raqamli belgi Claude javobining sifatiga ta’sir qilmaydi. O‘quvchi uchun belgili va belgisiz javob o‘rtasida hech qanday farq bo‘lmaydi”, — dedi kompaniya.
Anthropic aniqroq qilib aytganda, Google DeepMind jamoasi 2024-yilda taqdim etgan SynthID-Text usulidan foydalanishini bildirdi. Kompaniya, shuningdek, raqamli belgilarni aniqlash uchun API chiqarishni rejalashtirmoqda.
Anthropic bu tizimni Pangram kabi kompaniyalar taklif qiladigan AI detektorlari bilan adashtirmaslik kerakligini ham ta’kidladi. Bunday detektorlar matndagi sun’iy intellektdan foydalanilganini ko‘rsatishi mumkin bo‘lgan uslubiy belgilarni, masalan, “bu [X] emas, balki [Y]” shaklidagi jumlalarni izlaydi. “Bunday naqshlarni aniqlash raqamli belgini tekshirishdan tubdan farq qiladi”, — deyiladi kompaniya bayonotida.
Matnni qayta yozib, undagi raqamli belgini yashirish mumkinmi? Anthropic’ning aytishicha, bu mumkin. Biroq “yengil tahrirlash raqamli belgini butunlay yo‘q qilmasligi mumkin”, barcha so‘zlar almashtiriladigan to‘liq qayta yozish esa uni yo‘q qiladi.
“Kompaniya fikricha, ikkinchi holatda matnni endi AI yaratgan deb atash mumkinmi, degan savol tug‘iladi”, — deyiladi xabarda.
Claude faqat matnni tekshirib yoki tahrirlab bergan holatlarda raqamli belgi aniqlanadimi? Anthropic’ga ko‘ra, bu “matnning uzunligi va Claude uni qanchalik jiddiy tahrir qilganiga” bog‘liq. Agar tahrir yengil bo‘lsa, matndagi “deyarli barcha so‘zlar” inson muallif tomonidan yozilgan bo‘ladi. Shuning uchun raqamli belgi birikadigan material juda kam, hatto umuman bo‘lmasligi mumkin.
Kodda esa boshqa matnlarga qaraganda raqamli belgi kamroq bo‘ladi. Chunki model ishlaydigan kod yaratishi kerak va bir xil darajada to‘g‘ri bo‘lishi mumkin bo‘lgan turli variantlardan erkin tanlash imkoniyati cheklangan.