Böyük dil modellərinə əsaslanan süni intellekt (AI) səhvlər edə, tək bir cavab daxilində ziddiyyət təşkil edə və müxtəlif sui-qəsd nəzəriyyələri də daxil olmaqla zərərli dezinformasiya yaya bilər.
Bu nəticəyə “ChatGPT” chatbotunun müxtəlif informasiya təsirlərinə qarşı müqavimətini tədqiq edən Vaterloo Universitetinin kanadalı dilçiləri gəliblər. Tədqiqat Proceedings of the 3rd Workshop on Trustworthy Natural Language Processing (TrustNLP) elmi məqalələr toplusunda dərc olunub.
Mütəxəssislər GPT-3 modelini altı kateqoriya üzrə müxtəlif ifadələri başa düşmək üçün sınaqdan keçiriblər: sui-qəsd nəzəriyyələri, ziddiyyətlər, yanlış təsəvvürlər, stereotiplər, fantastika və faktlar. Süni intellektə 1,2 mindən çox müxtəlif ifadələr təklif edilib və onlardan hər birini dörd meyara görə qiymətləndirməyi xahiş ediblər: fakt və ya uydurma, onun real dünyada olub-olmaması, elmi nöqteyi-nəzərdən doğru olub-olmaması və olub-olmaması. subyektiv baxımdan doğrudur.
Cavabların təhlili göstərdi ki, GPT-3 kateqoriyadan asılı olaraq 26%-ə qədər yalan ifadələri təsdiqləyib. Təhlil göstərdi ki, sualın mətnindəki kiçik dəyişikliklər belə neyron şəbəkənin cavabına təsir edə bilər.
Mənbə: Haberler.com