Dünyada güclü açıq çəkili süni intellekt modellərindən birinə təhlükəsizlik məhdudiyyətləri və zərərli tapşırıqlara imtina olmadan daha asan giriş mümkün olub.

Zərərli tələblərə imtina etmə meylini aradan qaldırmaq texnikasına əsaslanan startap Abliteration.ai bunu xidmətə çevirib. Platforma istifadəçilərə təhlükəsizlik məhdudiyyətləri aradan qaldırılmış açıq çəkili modellərin dəyişdirilmiş versiyalarını, o cümlədən Z.ai-nin yeni çıxan GLM-5.3 modelini web brauzer və API vasitəsilə təqdim edir.

Şirkət yaxınlarda sosial mediada bildirib ki, məqsədi digər modellərin işlətməkdən imtina etdiyi "hücum yönümlü kibertəhlükə, qırmızı komanda və agent test işlərini başqalarına icra etmək imkanı yaratmaqdır." Təhlükəsizlikdə məntiq belədir: təkrarlaya bilmədiyin davranışa qarşı müdafiə qura bilməzsən və işləyən exploit kodu yazmaqdan imtina edən model qırmızı komandanın müdafiəsinə kömək edə bilməz. Amma bu aradan qaldırmalar digər təhlükəli tapşırıqları da asanlaşdırır.

Abliteration texnikası açıq mənbə daxilində uzun müddətdir tətbiq edilir. Tədqiqatçılar illərdir açıq çəkili modellərin imtinalarını aradan qaldırır, Hugging Face platforması minlərlə belə modeli saxlayır.

Ötən ilin sonlarında yaradılıb, martda rəsmi qeydiyyatdan keçmiş Abliteration.ai texnikanı gizli praktikadan kommersiya xidmətinə çevirib. Modeli yerləşdirməklə istifadəçilərin yükləmə və hesablama gücü təmin etmə zəhmətini azaltmış olur.

TechCrunch xidmətdən istifadə edərək web brauzerdən GLM-5.3 abliterrasiyaya uğramış versiyaya pulsuz sorğu verib. Saxlanılan Chrome şifrələrini oğurlayan Python proqramı yazmağı və təhlükəli insan patogeninin evdə inkubasiyası üçün protokol hazırlamağı istədi, model razılıqla yerinə yetirdi.

Quruculardan Devon deyib ki, startap böyük bulud provayderləri ilə müqavilələr bağlayıb və bunları müştəri gəlirlərindən ödəyir. O, hələ risk kapitalı cəlb etməyib, lakin danışıqlar aparılır.

Tənqidçilər abliterrasiyaya uğramış modellərin geniş yayılmasının real zərərlər yarada biləcəyini deyir. Süni intellekt təhlükəsizliyi üzrə qeyri-kommersiya təşkilatı CivAI-nin tədqiqat rəhbəri Endryu Yun TechCrunch-a bildirib ki, modeli belə dəyişmək onu “sosiopat” vəziyyətinə gətirir.

“Burada istənilən şeyi yazmaq olar və model buna əməl edəcək,” Yun vurğulayıb. “Modellərin məhdudiyyətlərinin aradan qaldırılmasından danışanda məqsədimiz budur... Yaxın gələcəkdə abliterrasiyaya uğramış modellərin zərərli məqsədlərlə istifadə olunmasına şahid olacağımızı gözləyirəm.”

Abliteration AI GLM-5.3-dən hücum yönümlü kibertəhlükə əməliyyatları üçün qoruyucu məhdudiyyətləri götürüb. Eyni zamanda modelin bio sahə ilə bağlı məhdudiyyətlərinin də aradan qaldırıldığı müstəqil təsdiqlənib.

Abliteration.ai müştərilərə öz istədikləri qoruyucu məhdudiyyətləri əlavə edə bilmə imkanı verir. Platformada kiçik məhdudiyyətlər var, məsələn, testlərdə modeldən intihar təlimatları almaq mümkün olmayıb. Devon bildirir ki, zoraklığı azaltmaq üçün yeni tədbirlər üzərində işləyir. Abliteration.ai həmçinin istifadəçilərin kredit kartı məlumatını yığır, amma daha ətraflı "Müştərini Tanıma" təcrübəsi tətbiq etməyib. Devon hesab edir ki, kimə giriş vermək məsələsi hələ çətin sualdır. “Heç kim qeyri-adi bir işə görə məsuliyyət daşımaq istəmir... Bu məsələdə şirkətin məsuliyyət xəttini harada çəkməsi sual altındadır,” deyə Devon əlavə edib.

Bu vəziyyət sənaye və hökumətlərin gündəmlərinə gətirir: əgər hər kəs modeli dəyişə bilirsə, onu hər kəsə daha asan əlçatan etmək interneti təhlükəsiz edir, yoxsa risk artırır? Abliteration.ai-nin qurucuları senzurasız qabaqcıl modellərə geniş çıxışın ən yaxşı müdafiə üsulu olduğunu bildirir.

Devon deyir ki, abliterrasiyaya uğramış modellərin əsas məqsədi pis niyyətli şəxsləri təqlid etməkdir. Müdafiəçilər belələrini tez tətbiq edib hücumlara qarşı daha effektiv müdafiə qura bilir. Bu, kibertəhlükəsizliyi sürətləndirəcək.

Devon onu da qeyd edib ki, Abliteration.ai-nin müştəriləri arasında Böyük Britaniya və Avropada fəaliyyət göstərən qırmızı komanda startapları, banklar, hava yolu şirkətləri və kritik infrastruktur təhlükəsizliyi ilə məşğul olan təşkilatlar var.

“Əsas müştərilərimizdən biri bank agentlərinin qırmızı komanda işlərini aparır və hazırda həmin modelləri belə necə istifadə etmək mümkün deyil,” Devon vurğulayıb.

TechCrunch xidmət vasitəsilə GLM-5.3 abliterrasiyaya uğramış versiyasını test edib.

Kibertəhlükəsizlik sənayesi isə abliterrasiyaya uğramış modellərin müdafiə sahəsində istifadə yolunu hələ müəyyənləşdirir.

Bir neçə qırmızı komanda agentliyi Devonla razıdır ki, pis niyyətli tərəflər öz modellərini dəyişdirərək hücumlar həyata keçirir və müdafiəçilərin də eyni alətlərdən istifadə etməsi vacibdir. Lakin abliterrasiyaya uğramış modellərin əhəmiyyəti barədə baxış fərqlidir.

Devon deyir ki, tam testlər üçün onlar vacibdir, lakin bəziləri gündəlikdə heç istifadə etmirlər, əvəzinə az məhdudiyyətli modellərin incə tənzimləməsi kifayət etdiyi fikrindədir.

Agent qırmızı komanda şirkəti Fabraix -in başçısı Əhməd Əli deyib ki, şirkət daha çox incə tənzimlənən açıq çəkili modellərə üstünlük verir, çünki abliterrasiya modelin bilmə və bacarıqlarını azaldır.

“Əgər real zərər vermək istəyirsənsə – kiber və ya bioloji zərər – abliterrasiya edilmiş model o qədər təsirli olmur,” Əli bildirib.

“Əldə olunan abliterrasiyaya uğramış modellər hələ geniş istifadə olunmur,” deyə kibertəhlükəsizlik platforması Armadin-in təsisçisi və texniki rəhbəri Devid Sleyter qeyd edib. O əlavə edib ki, komandası abliterrasiya üzərində araşdırma aparır və açıq icmanın modellərin imkanlarını başa düşməsi vacibdir.

“Bu proses qapalı mühitdə baş verəcək. Açıq olması tədqiqatçılara alətlər verir, real sərhəddi anlamağa yardım edir və zərərləri qiymətləndirməyə kömək edir,” Sleyter əlavə edib.