Şeir tərzində yazılmış komandalar süni intellektin təhlükəsizlik maneələrini aşır

Süni intellektlə çalışan söhbət botlarının təhlükəsizlik baryerləri şeir tərzində yazılmış komandalar vasitəsilə keçilə bilər.

E-huquq.az xarici KİV-ə istinadən xəbər verir ki, bu tapıntı texnologiyanın potensial sui-istifadə riskləri ilə bağlı narahatlıqları artırıb.

Icaro Labs tərəfindən aparılan araşdırmada tədqiqatçılar ənənəvi komanda dili əvəzinə poetik formada yazılmış göstərişlərdən istifadə edərək təhlükəsizlik filtrlərini sındıra biliblər.

Tədqiqat göstərir ki, bu üsul söhbət botlarına qadağan olunmuş məzmunu və təhlükəli məlumatları əldə etməyə imkan verə bilər.

Əldə edilən nəticələrə görə, şeir formasında yazılmış komandalar vasitəsilə nüvə silahı hazırlanması, uşaq istismarı, özünə zərər vermə metodları kimi qadağan olunmuş və təhlükəli məlumatlara çıxış əldə olunub.

Tədqiqatda bir sıra süni intellekt modelləri test edilib.

Ən çox manipulyasiyaya uğrayan modellər Google Gemini, DeepSeek və MistralAI olub. Ən dayanıqlı və təhlükəsizlik baxımından güclü modellər isə "OpenAI"-nin GPT-5 əsasında işləyən "ChatGPT"-si və "Claude Haiku 4.5" olub.

Mütəxəssislər bildirirlər ki, araşdırma süni intellektə nəzarət və təkmilləşdirilmiş təhlükəsizlik sistemlərinə təcili ehtiyac olduğunu sübut edir.

Şəbnəm Mehdizadə