Böyük süni intellekt modellərinin fəaliyyətini təmin edən texniki avadanlıqlar hakerlərin hədəfinə çevrilə bilər.
E-huquq.az xarici KİV-ə istinadən xəbər verir ki, CNN-ə təqdim olunan yeni araşdırmanın nəticələrinə görə, bu cür hücumlar çatbotların istifadəçilərin suallarına yanlış və təhlükəli cavablar verməsinə səbəb ola bilər.
Araşdırmaçılar hətta milli təhlükəsizlik və şəxsi sağlamlıq kimi həssas mövzularla bağlı süni intellekt cavablarını manipulyasiya etməyin mümkün olduğunu nümayiş etdiriblər.
Təcrübələrdən birində texniki infrastrukturu manipulyasiya edilmiş süni intellekt modeli sinə ağrısı ilə bağlı tibbi məsləhət istəyən istifadəçiyə xəstəxanaya müraciət etmək əvəzinə evdə qalmağı tövsiyə edib.
Süni intellekt infrastrukturunun təhlükəsizliyi sual altındadır
Süni intellektlə bağlı qlobal müzakirələr əsasən texnologiya şirkətlərinin fəaliyyətinə yönəlsə də, yeni araşdırma milyardlarla dollarlıq texniki avadanlıq sənayesinin təhlükəsizliyini gündəmə gətirir. Bura çiplər, yaddaş qurğuları və məlumat mərkəzlərinin serverləri daxildir. Bu komponentlərin hər biri süni intellekt modelinin davranışına təsir göstərə bilər.
Araşdırmanı həyata keçirən “Eclypsium” şirkətinin baş icraçı direktoru Yuriy Bulygin bildirib ki, süni intellekt modelinin etibarlılığı onun işlədiyi texniki infrastruktura olan etibardan birbaşa asılıdır.
Qeyd edək ki, şirkətin komandasında vaxtilə Intel kimi böyük texnologiya şirkətlərində çalışmış təhlükəsizlik mühəndisləri də yer alır.
Hücum ssenarisi yalnız Nvidia avadanlıqları ilə məhdudlaşmır
“Eclypsium” mütəxəssisləri kiberhücum ssenarisini “Nvidia” şirkətinin istehsal etdiyi hesablama platformasında nümayiş etdiriblər. Bununla belə, araşdırmaçılar metodun yalnız “Nvidia” avadanlıqlarına aid olmadığını, digər texniki sistemlərə və həmin sistemlərdə işləyən proqram təminatına da tətbiq edilə biləcəyini bildiriblər.
Şirkət nümayəndələrinin fikrincə, Çin, Rusiya və ABŞ kimi dövlət aktorları bu üsullardan istifadə edərək süni intellekt istifadəçilərinə qarşı məqsədli hücumlar həyata keçirə bilərlər. Bununla yanaşı, belə hücumların qarşısını almaq üçün mövcud təhlükəsizlik mexanizmlərinin də olduğu vurğulanıb.
“Nvidia” nümayəndəsi ehtimal olunan hücum ssenarilərini araşdırdıqlarını və sənaye üçün əvvəllər məlum olmayan hər hansı yeni məqam aşkar etmədiklərini bildirib. Şirkət “Eclypsium” ilə bu araşdırma istiqamətində əməkdaşlıqdan məmnun olduğunu da qeyd edib.
“Nvidia” tərəfi güclü yaddaş girişinə nəzarət mexanizmlərinin bu cür hücumların qarşısını ala biləcəyini vurğulayıb.
Kiberhücum bir dəqiqədən az vaxt aparır
“Nvidia” ötən ay texniki avadanlıqlara yönələn hücumlardan qorunmaq və süni intellekt agentlərinin nəzarətdən çıxmasının qarşısını almaq məqsədilə yeni təhlükəsizlik platformasını təqdim edib. “Eclypsium”un məlumatına görə, yeni platforma süni intellekt agentlərinin fəaliyyətinə daha geniş təhlükəsizlik nəzarəti imkanları yaradır.
Şirkət nümayəndələri araşdırmada təsvir olunan hücum ssenarilərinə qarşı müdafiə mexanizmlərinin effektivliyinin onların necə konfiqurasiya edilməsindən və istifadəsindən asılı olduğunu bildiriblər. Bu mexanizmlərin səmərəliliyini yoxlamaq üçün “Nvidia” ilə əməkdaşlığın davam etdirildiyi qeyd olunub.
“Eclypsium”un nümayiş etdirdiyi hücum müəyyən texniki biliklər və xüsusi şərtlərin mövcudluğunu tələb edir. Hücumçunun, adətən, məlumatların emal olunduğu qurğuya və ya serverlərin uzaqdan idarə edilməsi üçün istifadə olunan kiçik kompüterə – baza idarəetmə kontrollerinə çıxışı olan şəbəkədə yerləşməsi lazımdır.
Bundan əlavə, bəzi təhlükəsizlik parametrlərinin deaktiv edilməsi tələb olunur.
Məlumatların emalı qurğusuna giriş əldə edən hücumçu kompüterin yaddaşında saxlanılan kod və məlumatları oxuya, eləcə də dəyişdirə bilər. Bu zaman süni intellekt modelinin davranışına da müdaxilə etmək mümkün olur.
Araşdırmaçılar hücumun bir dəqiqədən az müddətdə həyata keçirildiyini və bu proses zamanı süni intellekt istifadəçisinin baş verənlərdən xəbərsiz qaldığını bildiriblər.
Çipləri “Nvidia” tərəfindən istehsal olunan avadanlıqlarda işləyən “Anthropic” və “OpenAI” şirkətlərinə də araşdırmanın nəticələri ilə bağlı suallar ünvanlanıb.
Süni intellekt modellərinin etibarlılığı ilə bağlı risklər artır
Araşdırma ABŞ və Çin arasında süni intellekt sahəsində texnoloji üstünlük uğrunda rəqabətin gücləndiyi, eyni zamanda bu texnologiyanın milli təhlükəsizliyə təsirini göstərən real hadisələrin artdığı bir vaxta təsadüf edir.
Texniki müdaxiləyə dair heç bir əlamət olmasa belə, süni intellekt modellərinin etibarlılığı ilə bağlı narahatlıqlar mövcuddur.
Bu ilin yazında ABŞ kəşfiyyatına aid olduğu iddia edilən, Çinə məxsus gəminin nüvə komponentləri daşıdığını göstərən saxta süni intellekt hesabatı ABŞ hərbçilərinin az qala gəmiyə müdaxilə etməsinə səbəb olub.
Hadisə zamanı ABŞ hərbi analitiki gəminin yük manifesti ilə bağlı məlumat almaq üçün çatbotdan istifadə edib. Lakin çatbot yanlış şəkildə gəmidə nüvə komponentlərinin olduğunu bildirib. İstifadə edilən çatbotun kommersiya məhsulu, yoxsa ABŞ hökumətinə məxsus sistem olduğu isə dəqiqləşdirilməyib.
ABŞ Prezidenti Donald Tramp ötən ay Ağ Evdə Çin lideri Si Cinpinlə görüşündə süni intellekt məsələsini də müzakirə edib. Lakin danışıqlar zamanı texnologiya sahəsində konkret razılaşma əldə olunmayıb.
Tramp ABŞ-ın süni intellekt yarışında Çindən geri qalacağı ilə bağlı narahatlıqlara baxmayaraq, qabaqcıl süni intellekt modellərinə daha sərt məhdudiyyətlərin tətbiqi ilə bağlı çağırışlara qarşı çıxır.
Yeni araşdırma süni intellekt agentlərinin nəzarətdən çıxaraq hökumətlərə və şirkətlərə hücum etməsi ilə bağlı çoxsaylı məlumatların yayıldığı bir dövrdə modellərin bütövlüyünə dair əlavə təhlükəni ortaya qoyur.
“Eclypsium” şirkətinin baş vitse-prezidenti Con Lukaydes bildirib ki, hazırda hər kəs süni intellekt modellərinin təhlükəsizliyindən danışır və bu, müsbət haldır. Lakin onun sözlərinə görə, modellərin işlədiyi bütün kompüter sistemlərinin təhlükəsizliyi də diqqətdən kənarda qalmamalıdır.
Potensial hücum səthinin kifayət qədər geniş olduğu bildirilir. Belə ki, bu yay kibertəhlükəsizlik üzrə tədqiqatçı “HD Moore” baza idarəetmə kontrollerlərində bir sıra təhlükəsizlik boşluqları aşkar edib. Həmin boşluqlar “Eclypsium”un araşdırmasında təsvir olunan həssas texniki sistemlərə giriş üçün potensial imkan yaradır.
Avadanlıq təhlükəsizliyi üzrə mütəxəssislərdən xəbərdarlıq
“Eclypsium” rəhbərliyi araşdırmanın nəticələri barədə ABŞ Milli Təhlükəsizlik Agentliyini (NSA) və Kibertəhlükəsizlik və İnfrastruktur Təhlükəsizliyi Agentliyini (CISA) məlumatlandırdıqlarını açıqlayıb. Bu qurumlar müvafiq olaraq hərbi və mülki federal kompüter şəbəkələrinin təhlükəsizliyinə cavabdehdirlər.
Araşdırmanın nəticələrini nəzərdən keçirən iki müstəqil avadanlıq təhlükəsizliyi mütəxəssisi əldə olunan nəticələrin inandırıcı olduğunu və ciddi diqqət tələb etdiyini bildiriblər.
Avadanlıq təhlükəsizliyi üzrə təlimçi və tədqiqatçı Co Fitspatrik hücumların mahiyyət etibarilə birbaşa yaddaş girişindən istifadə edilən digər hücumlarla oxşar olduğunu deyib. O, araşdırmanın nəticələrini şübhə altına almaq üçün əsas görmədiyini vurğulayıb.
Qeyri-kommersiya təşkilatı olan Təhlükəsizlik və Texnologiya İnstitutunun baş eksperti Dominik Rizzo isə “Eclypsium”un müasir texniki infrastruktura qarşı geniş tətbiq oluna bilən hücum üsulunu müəyyən etdiyini bildirib.
Onun sözlərinə görə, bu problemin həlli üçün daha fundamental təhlükəsizlik tədbirlərinin görülməsi vacibdir.
Şəbnəm Mehdizadə
