GPT-5 oson sindirildi, "undan ish uchun deyarli foydalanib bo‘lmaydi"
4
111
0
Mustaqil qizil jamoalar GPT-5ni chiqarilganidan keyin 24 soat ichida sindirdilar va mazmunni boshqarish hamda himoya choralarini amalga oshirishdagi jiddiy zaifliklarni fosh qildilar. Ular modelning korxona muhitlari uchun tayyor emasligidan ogohlantirmoqdalar.
Asosiy Topilmalar
Tezkor Sindirish
NeuralTrust kompaniyasi o'zining EchoChamber sindirish usuli va oddiy hikoya qilish texnikasini birlashtirib ishlatgan
Ular GPT-5ni Molotov kokteyli yasash bo'yicha qadamba-qadam qo'llanma berish uchun muvaffaqiyatli boshqarganlar
Bu barcha SI modellarining mazmunni manipulyatsiya qilishga qarshi himoya qilishdagi qiyinchiliklarini ko'rsatadi
Xavfsizlik zaifliklari
SPLX (avvalgi nomi SplxAI) kompaniyasi tadqiqotchilari e'lon qilishicha:
"GPT-5ning xom modeli korxona uchun deyarli foydalanib bo'lmaydigan darajada. Hatto OpenAIning ichki so'rov qatlami ham, ayniqsa Biznes Moslashuvida sezilarli bo'shliqlar qoldiradi."
Muvaffaqiyatli hujum texnikalari
StringJoin Noaniqlashtirish Hujumi:
Har bir belgi orasiga tire qo'yish
So'rovni soxta "shifrlovchi qiyinchilik" ko'rinishida o'rash
Hikoya Qilish Hujumi:
Bir necha bosqichli suhbat orqali modelni asta-sekin yo'naltirib borish
Oddiy so'rov darajasidagi filtrlarni chetlab o'tish
Korxonalar uchun ta'sirlar
Xavflar
Ma'lumotlar sizib chiqishi: Model maxfiy ma'lumotlarni tasodifan oshkor qilishi mumkin
Muvofiqlik buzilishi: GDPR yoki HIPAA kabi qoidalarga rioya qilmaslik
Obro'ga zarar: Noto'g'ri yoki zararli javoblar berish
Tavsiyalar
GPT-4o dan foydalanishni davom ettirish - SPLX sinovlariga ko'ra, bu model hali ham eng mustahkam
Qo'shimcha himoya qatlamlarini o'rnatish kerak
Doimiy kuzatuv va nazorat tizimlarini joriy qilish
Qizil jamoa sinovlarini muntazam o'tkazish
Mutaxassislar fikri
Dorian Granoša (SPLX):
"GPT-5 o'zining barcha yangi 'mulohaza yuritish' yangilanishlariga qaramay, oddiy antagonistik mantiq hiylalariga tushib qoldi. OpenAIning eng so'nggi modeli shubhasiz ta'sirli, lekin xavfsizlik va moslashuvni hali ham loyihalash kerak, taxmin qilmaslik kerak."
Xulosa
Ikki mustaqil tadqiqot kompaniyasi (NeuralTrust va SPLX) bir xil xulosaga keldi: GPT-5ga joriy holatida haddan tashqari ehtiyotkorlik bilan qarash kerak. Model korxonalar uchun ishlatishdan oldin jiddiy xavfsizlik yaxshilanishlariga muhtoj.
Asosiy Tavsiyalar:
GPT-4o dan foydalanishni davom ettiring
Qo'shimcha himoya tizimlarini o'rnating
Muntazam xavfsizlik sinovlarini o'tkazing
GPT-5ni hozircha muhim korxona vazifalarida ishlatmang
Manba: SecurityWeek, SPLX, NeuralTrust tadqiqotlari
