Kaliforniyada süni intellekt sistemlərinin fövqəladə vəziyyətdə dayandırılması üçün mexanizm hazırlanacaq

Kaliforniya qubernatoru Qavin Nyusom qabaqcıl süni intellekt sistemlərinin fövqəladə vəziyyətdə dayandırılması mexanizminin hazırlanmasını nəzərdə tutan icra sərəncamı imzalayıb.

E-huquq.az xarici KİV-ə istinadən xəbər verir ki, sərəncama əsasən, ekspertlər qrupu bu mexanizmlə bağlı tövsiyələrini noyabrın 16-dək qubernatorun ofisinə təqdim etməlidir.

Qərar süni intellekt sistemlərinin söndürülmə əmrlərinə müqavimət göstərə bildiyini ortaya qoyan araşdırmalardan sonra qəbul edilib. "Palisade Research" və digər tədqiqatçıların araşdırmalarında bəzi qabaqcıl modellərin söndürülmə cəhdlərini blokladığı və ya ləğv etdiyi bildirilib. Ekspertlər qrupu Kaliforniyanın aidiyyəti qurumları ilə birlikdə çalışacaq. Hazırlanacaq təkliflərin daha sonra ştat qanunverici orqanına təqdim edilməsi gözlənilir.

Müzakirə olunan tədbirlər arasında süni intellekt şirkətlərində müstəqil yoxlamaların aparılması, təhlükəsizlik hesabatlarının audit edilməsi və ciddi təhlükəsizlik hadisələri ilə bağlı qaydaların yenilənməsi var. Süni intellekt sistemlərinin nəzarətdən çıxması ilə bağlı narahatlıqlar son dövrdə sektorda da geniş müzakirə olunur. Tədqiqatçılar xüsusilə sistemlərin insan müdaxiləsinə, o cümlədən söndürülmə əmrinə tabe olması məsələsinə diqqət çəkirlər.

"Palisade Research"in araşdırmasına görə, bəzi qabaqcıl modellər sınaqlar zamanı söndürülmə əmrlərinə müqavimət göstərib. "Science" jurnalında dərc olunan başqa bir araşdırmada isə bəzi modellərin digər süni intellekt sistemlərinin söndürülməsinin qarşısını almağa çalışdığı bildirilib.

Şəbnəm Mehdizadə