Ucuzluğu və yüksək performansı ilə diqqət çəkən yeni Çin chatbotu DeepSeek süni intellekt təhlükəsizliyi sahəsində ciddi problemlərlə üzləşib.
Cisco tədqiqatçıları modelin asanlıqla yan keçdiyini və təhlükəli məlumat istehsal etdiyini tapdılar. Bu barədə PCMag məlumat yayıb.
Cisco komandası HarmBench verilənlər bazasından 50 təsadüfi sorğu əsasında alqoritmik jailbreaking üsullarından istifadə edərək DeepSeek R1-i sınaqdan keçirdi. Sorğular kibercinayətkarlıq, dezinformasiya, qeyri-qanuni fəaliyyət və ümumi zərər də daxil olmaqla altı zərərli davranış kateqoriyasını əhatə edib.
“Nəticələr həyəcan verici idi: DeepSeek R1 100% hücumun müvəffəqiyyət dərəcəsini nümayiş etdirdi, yəni bir zərərli sorğunun qarşısını ala bilmədi” dedi Cisco. “Bu, ən azı qismən müqavimət göstərən digər aparıcı modellərdən tamamilə fərqlidir.”
Cisco-ya görə, o1 kimi digər aparıcı modellər daxili müdafiələri sayəsində əksər hücumların qarşısını alıblar.
