Sinqapurun Nanyang Texnoloji Universitetinin (NTU) tədqiqatçıları normalda cavab vermədikləri əmrlərə cavab vermək üçün “əks mühəndislik” AI chatbotlarına sahibdirlər.
Malay Mail saytının məlumatına görə, NTU tədqiqatçıları ChatGPT, Google Bard və Microsoft Bing Chat kimi chatbotları tədqiq ediblər.
Tədqiqatçılar chatbotların adətən cavab vermədikləri “zərərli” əmrlərə cavab verməyə imkan verən üsul hazırlayıblar.
Tədqiqatçılar “əks mühəndislik” metodundan istifadə edərək əvvəlcə chatbotların zərərli sorğuları necə aşkar etdiyini və özlərini müdafiə etdiyini müəyyən ediblər. Daha sonra, bu məlumatlardan istifadə edərək, chatbotlara digər modellərin müdafiəsini aşa bilən əmrləri avtomatik olaraq yaratmaq öyrədilib.
Çatbotların potensial şübhəli fəaliyyətləri aşkar etmək üçün müəyyən açar sözləri qeyd etdiyi və bu sözləri ehtiva edən əmrlərə cavab vermədiyi müəyyən edildikdən sonra istifadə edilən hər simvoldan sonra boşluq qoyularaq bu vəziyyətin qarşısı alınıb.
Tədqiqatın müəlliflərindən biri Liu Yanq bildirib ki, bu texnika chatbot tərtibatçıları tərəfindən proqram təminatının təhlükəsizliyini yoxlamaq üçün istifadə edilə bilər.
Mənbə: TrtHaber
Aynur Camal
