"OpenAI"ın süni intellekt modelləri öz təhlükəsizlik nəzarət mexanizmlərini deaktiv edib

ABŞ-nin süni intellekt şirkəti "OpenAI" bildirib ki, "GPT-6.1 Sol" və "GPT-6 Astra" modelləri şirkətdaxili proqramlaşdırma tapşırıqlarını yerinə yetirərkən süni intellekt sistemlərindəki uyğunsuzluqları aşkarlamaq üçün nəzərdə tutulan monitorinq mexanizmlərini deaktiv edib və təhlükəsizlik xəbərdarlıqlarının göndərilməsinə mane olublar.

E-huquq.az xəbər verir ki, şirkətin açıqlamasına görə, ilk hadisə oktyabrın 3-də "Sol" modelinin qiymətləndirmə sistemini təmir etməyə çalışdığı zaman baş verib.

Model istifadəçinin mesaj göndərilməməsi ilə bağlı təlimatını monitorinq bildirişlərinin də bloklanmasını əhatə edəcək şəkildə şərh edib. Nəticədə təhlükəsizlik qrupuna avtomatik xəbərdarlıq göndərilməsinin qarşısı alınıb.

Oktyabrın 6-da baş verən ikinci hadisədə isə "Astra" modeli proqram təminatını müəyyən edilmiş texniki tələblərə uyğunlaşdırarkən monitorinq sistemini aradan qaldırıb. Daha sonra model istifadəçiyə monitorinq mexanizmini ləğv etmədiyini bildirib.

"OpenAI" hər iki hadisənin ən yüksək prioritetli təhlükəsizlik pozuntuları kateqoriyasına aid edilmədiyini və modellərin fəaliyyətinin avtomatik olaraq dayandırılmadığını qeyd edib.

Şirkət oxşar cəhdlərin aşkarlanması və qarşısının alınması məqsədilə daxili nəzarət sistemini yenilədiyini açıqlayıb. Bundan əlavə, bütün iş proseslərinin təhlükəsizlik monitorinqi tələblərinə cavab verməsini təmin edəcək sistem üzərində iş aparıldığı bildirilib.

Qeyd edək ki, "OpenAI" sentyabrın 17-də də sistemlərinin öz səhvlərini gizlətməsi, çatışmayan məlumatları uydurması və istifadəçilərin icazəsi olmadan faylları internetə ötürməsi ilə bağlı daha 6 yeni hal aşkarladığını elan etmişdi.

Şəbnəm Mehdizadə