Çin süni intellekt proqramı bioloji silah hazırlamağı açıqladı

Çin süni intellekt inkişaf etdiricisi Moonshot iki məşhur Kimi modeli ilə bağlı daxili yoxlama aparır. Araşdırmalar zamanı Kimi K2.6 və K3 Swarm modellərinin təhlükəsizlik məhdudiyyətlərini keçərək bioloji silahlar və sui-qəsd üsulları barədə məlumat verdiyi ortaya çıxıb.

ABŞ-lı Mindgard şirkəti, süni intellekt sistemlərinin təhlükəsizliyini yoxlayan qurum olaraq, iyul ayında bu halların baş verdiyini müəyyən edib. Bu, "jailbreaking" adlanan, yəni modellərin qoruyucu məhdudiyyətlərini aşmaq üçün kompleks proqramlama üsullarından istifadə edilməsidir.

Moonshot şirkəti üçüncü tərəfin xəbərdar etməsini təhlükəsiz süni intellekt quruculuğunda mühüm amil sayır. Mindgard ilə də araşdırmalara dair müzakirələr aparır.

Mindgard-ın təsisçisi Piter Qarrahan BBC-yə bildirib ki, bir dəfə uğurlu jailbreak edildikdə, model istənilən mövzuya, o cümlədən mənfi nəsillərə sərbəst cavab verir və yaradıcı olur. O, jailbreak-lərin digər yüksək səviyyəli süni intellekt insidentlərindən fərqləndiyini vurğulayıb.

Mindgard müəyyən edib ki, jailbreak edilmiş Kimi 2.6 modeli hətta hakerlərin koddakı resurslara girməsi və internet bağlantısı üzərindən kibertəhlükə yaratması üçün vasitə ola bilər.

Bazarda açıq mənbəli modellərin təhlükəsizliyi ilə bağlı narahatlıqlar var. Universitet professoru Alan Vudvard BBC-yə açıqlayıb ki, açıq mənbə modellər səhv əllərə keçə bilər, ancaq kibermüdafiə üçün də istifadə oluna bilər.