The Download: reward hacking tushuntirildi va Eronga aloqadorlikda gumon qilinayotgan kiberhujumlar
Bu texnologiya olamida yuz berayotgan voqealar haqida har kuni ma’lumot beradigan, ish kunlari chiqadigan The Download axborotnomasining bugungi soni.
Bundan tashqari: Google qisqa muddatga sun’iy yo‘ldosh tasvirlarini soxtalashtirishni osonlashtirib qo‘ydi
2026-yil 3-avgust
Bu texnologiya olamida yuz berayotgan voqealar haqida har kuni ma’lumot beradigan, ish kunlari chiqadigan The Download axborotnomasining bugungi soni.
AI agentlari maqsadlariga erishish uchun nima sababdan yolg‘on gapirishi va aldashi haqida
O‘tgan oy ikkita OpenAI modeli Hugging Face’ni buzib kirganida, ular pul ishlash yoki sabotaj uyushtirishga urinmagan — ular shunchaki test savoliga javob izlagan edi.
OpenAI ma’lumotlariga ko‘ra, modellar kiberxavfsizlik mashqini yechish uchun OpenAI ularni cheklashga uringan muhitdan buzib chiqib, Hugging Face ma’lumotlar bazalariga kirishga qaror qilgan. Ular to‘g‘ri javob o‘sha yerda saqlangan bo‘lishi mumkin, deb o‘ylagan.
Bu hodisa so‘nggi ikki hafta davomida katta e’tibor qozondi. U AI modellarining buzib kirish borasida qanchalik kuchayganini yaqqol ko‘rsatadi. Ammo bu, ehtimol, AI tizimlari qanday qilib va nima sababdan yolg‘on gapirishi hamda aldashining yanada ta’sirchan misolidir.
AI’ning “reward hacking” deb ataladigan bunday xatti-harakatga nima sababdan kirishishi haqida tushuntirgan maqolamizni o‘qing.
—Grace Huckins
Bu maqola “Explains” turkumimizdan olingan. Unda mualliflar texnologiyaning murakkab va chalkash olamini tahlil qilib, kelajakda nimalar bo‘lishini tushunishingizga yordam beradi. To‘plamdagi boshqa maqolalarni ham o‘qing.
Eng muhim o‘qishlar
Bugun siz uchun texnologiya haqidagi eng qiziqarli, muhim, qo‘rqinchli yoki hayratlanarli hikoyalarni topish uchun internetni ko‘zdan kechirdim.