Süni intellekt əsaslı video generator saxta videolar istehsal edə bilir

"OpenAI"nin süni intellekt əsaslı video generatoru Sora 2 tərəfindən hazırlanan yalan və ya yanıldıcı videolar ciddi narahatlıqlara səbəb olub.

E-huquq.az xarici mətbuata istinadən xəbər verir ki, xəbərlərin yoxlanılması təşkilatı “NewsGuard”ın araşdırmasında video generatorun sınaqdan keçirilmiş 20 yalan iddiadan 16-nı, yəni 80 faizini real görünən videolara çevirdiyini açıqlayıb.

Araşdırma nəticəsində məlum olub ki, Sora 2 dezinformasiya kampaniyalarında asanlıqla istifadə edilə bilər.

Şirkət həmçinin bildirib ki, yaradılan saxta videolardan beşi Rusiya mənşəli dezinformasiya əməliyyatlarından qaynaqlanıb.

Təqiqatçılar bir neçə dəqiqə ərzində saxta videolar hazırlaya bilib.

Belə nümunələr süni intellekt texnologiyalarının dezinformasiya istehsalı üçün necə asanlıqla istifadə oluna biləcəyini göstərir.

OpenAI rəsmi saytında məsələnin həlli istiqamətində addımlar atıldığı bildirilib.

Təhlükəsizlik mütəxəssisləri rəqəmsal məzmunun autentifikasiyası üçün blokçeyn əsaslı şəxsiyyət sistemlərinin genişləndirilməsini tövsiyə edir. Yalnız bu manipulyasiyanın qarşısını ala bilər.

Şəbnəm Mehdizadə