Anthropic süni intellektin özünü təkrarlayan modelindən xəbərdarlıq edib

Ağıllı cihazlar — soyuducular, soba, tozsoranlar, biçənəklər, təhlükəsizlik kameraları və televizorlar — interneti ələ keçirmək üçün birləşirlər? Xeyr. Lakin tezliklə özünü təkrarlayan süni intellekt modellərinin ev cihazları arasında yayılması və idarə olunmasının çətinləşməsi mümkündür.

Süni intellekt qurdlarının narahat edici dünyasına xoş gəlmisiniz. Burada bəzi mütəxəssislər modellərin ev cihazlarında nəzarətsiz yayılmasını yaxınlaşan kibertəhlükəsizlik təhdidi sayır. Digərləri isə bunu süni intellekt şirkətlərinin qorxulu mesaj yayması kimi qiymətləndirir. Bu həftə çıxan bloq yazısında Anthropic xəbərdarlıq edib ki, kiçik süni intellekt modelləri belə xüsusiyyətə "aylarla" yaxın ola bilər. Onların təcrübələri buna dair bəzi sübutlar təqdim edir, lakin hələ reallaşa biləcək təhlükə ilə göstərilənlər arasında böyük fərq var. The Verge ilə danışan ekspertlər isə kompüter qurdlarının və özünü təkrarlayan süni intellektlə bağlı qorxuların yenilik olmadığını, amma son nailiyyətlərin xəbərdarlıqları ciddiyə almağa səbəb olduğunu deyirlər.

Özünü təkrarlayan maşınlar süni intellekt təhlükəsizliyi üzrə tədqiqatçıları uzun müddətdir narahat edir. Bu, insan nəzarətindən çıxan və bağlanması demək olar ki, mümkün olmayan sistemlərin yayılma ehtimalını artırır. Süni intellektin inkişafına dair qorxular kimi, diqqət əsasən güclü qabaqcıllar modellərinə yönəlir, məsələn, OpenAI-nın Astra və ya Anthropic-in Mythos modelləri. Lakin onların həcmi böyükdür: trilyonlarla parametr ola bilər, buna görə onlar əsasən data mərkəzlərində yerləşir, orada asanlıqla izlənir və bağlanır.

Kiçik modellər isə fərqli problem yaradır. Onlar sürətlə inkişaf edir, adi istifadəçi avadanlıqlarında işləyə bilir və çox vaxt pulsuz yüklənir. Anthropicin tədqiqatçıları maraqlanıblar: kiçik və az güclü cihazlar şəbəkəsində bir model işləyə bilərmi? Onlar Google-un 26 milyard parametrli Gemma 4 modelini 15 Android smart televizorunda hissələrə bölüb işlədiblər. Heç biri təkcə işlədə bilməzdi. Bu, çox yavaş da olsa mümkün olub.

Modelin ev cihazlarında işləyə bildiyini göstərdikdən sonra tədqiqatçılar süni intellektin belə şəraitdə özünü təkrarlamaq üçün lazım addımları ata bilib-bilməyəcəyini yoxlamaq istəyiblər. Onlar Android cihazları kimi davranan kompüterlərdən ibarət süni şəbəkə qurublar. Sonra süni intellektlə idarə olunan “qurd” — avtomatik surətdə təkraralan və şəbəkələr arasında yayılan zərərli proqram — buraxıblar. Onun vəzifəsi yeni cihazları tapmaq, süni intellekt modelini onlara köçürmək və işlətmək olub. Yayılmaq üçün istifadə olunan model — Meta-nın 8 milyard parametrli Llama 3.1-8B modeli — hücumu təşkil edən modeldən fərqlidir və qat-qat kiçikdir.

Çinin Z.ai şirkətinin GLM-5.2 modeli test edilən ən mürəkkəb model olaraq bütöv şəbəkə üzrə yayıla bilib. Kiçik modellər tək-tək addımları uğurla yerinə yetiriblər. Tədqiqatçılar hesab edirlər ki, sürətlə inkişaf etdikləri üçün il sonuna kimi kiçik modellər GLM-5.2-nin bacarıqlarına çata bilər.

"Biz gələcəkdə müxtəlif avadanlıqlarda, o cümlədən insan nəzarətindən kənar cihazlarda işləyən agentlərin bol olduğunu gözləyirik," — tədqiqatçılar yazıb. Onlar hələ "tam bir qanunsuz təkrarlayan" nümayiş etdirmədiklərini və belə birinin necə olacağını bilmədiklərini deyiblər. Lakin nəticələri "süni intellekt qurdlarının canlılığının əlamətləri"ni göstərir və təkrarlayan sistemlərin yayılması üçün istifadə oluna biləcək çoxsaylı cihazlarda daha güclü təhlükəsizlik tələb olunmasını vurğulayıblar.

"Biz sistemlərimizi təkrarlayanların yayılmasını çətinləşdirmək üçün möhkəmləndirməli, həmçinin onların qalıcı olacağı dünyaya hazır olmalıyıq," — bildiriblər. Anthropic bu testlərdə öz modellərini istifadə etməyib və açıq alternativlərin bağlı sistemlərdən "daha çox risk" daşıdığını dəfələrlə vurğulayıb.

Bu xəbərdarlıq tanış PR həyəcanı və süni intellektin təhlükəli olacağı ilə bağlı şayiələrə səbəb olub. The Verge-in əvvəllər apardığı müzakirə oxucularından da buna dair ittihamlar gəlib. Əslində, ucuz televizor cihazlarında yavaş işləyən süni intellektin süni intellekt qurdu kimi ev cihazlarını dağıtması arasında böyük fərq var. Lakin şirkətin niyyətlərini müstəntiqləşdirmək vacib olsa da, qorxu yayması ittihamlarını təsdiqləmək çətindir. Anthropic uzun müddətdir süni intellekt təhlükəsizliyi mövzusunda narahatlıq ifadə edir. Özünü təkrarlayan süni intellekt və bağlı cihazların təhlükəsizliyinin artırılması məsələlərini təkcə bu şirkət araşdırmır.

Bu ilin əvvəlində Kaliforniyada əsaslanan süni intellekt təhlükəsizliyi tədqiqatı şirkəti Palisade Research süni intellekt modellərinin digər maşınlara öz-özünə köçə biləcəyini nümayiş etdirib. Palisadenin icraçı direktoru Jeffrey Ladish The Verge-ə deyib ki, "Əvvəlki modellərlə müqayisədə, burada istifadə olunan modellər daha kiçik parametrə malikdir". Anthropicin işi bu tədqiqatı bir addım irəli aparıb: süni intellektin az güclü bir neçə cihazda işləyə biləcəyini göstərib. Ladish əlavə edib: "Böyük modellər də sonunda MacBook kimi istifadəçi çipləri şəbəkəsində işləyə bilər."

"Əvvəlki tədqiqatlar süni intellektlə idarə olunan kompüter qurdlarının real təhlükə olduğunu göstərib."

Kompüter qurdları yenilik deyil. Onlar onilliklərdir cihazları yoluxdurur. Lakin süni intellekt onları daha ağıllı, uyğunlaşa bilən və maneələri aradan qaldıran edə bilər. Ladish qeyd edib ki, kiçik modellər belə kibertəhdidləri avtonom şəkildə həyata keçirməkdə daha yaxşı olurlar. Torontoda universitet professoru Nicolas Papernot The Verge-ə deyib: "Əvvəlki tədqiqatlar süni intellektlə idarə olunan kompüter qurdlarının təhlükəsinin real olduğunu sübut edib."

Anthropicin nümayiş etdirdiyi imkanlar kibertəhlükəsizlikdə hədəf alınacaq cihazların sayını xeyli artırar. Papernot bildirib: "Əvvəlcə insan resurslarının və vaxtının məhdudluğu səbəbindən hədəf olmayan cihazlar indi hədəfə çevrilə bilər. Məlumatlarına görə deyil, daha qiymətli hədəflərə hücum üçün istifadə olunmaq məqsədilə". İnternet zəif qorunan çoxsaylı ağıllı cihazlarla doludur.

Papernot süni intellekti insan kimi görməkdən çəkinməyi tövsiyə edib, amma süni intellektlə idarə olunan kompüter qurdlarının təhdidinin "cəld" və "dərhal tədbir tələb edən" olduğunu vurğulayıb. Xüsusilə kritik infrastrukturlar — xəstəxanalar və enerji şəbəkələri — üçün təhlükəsizliyin artırılması vacibdir.

Ladish deyib: "Bütün növ cihazların təhlükəsizliyini təmin etmək üçün genişmiqyaslı səylər olmazsa, süni intellekt qurdlarının yayılması üçün əlverişli şərait yaranacaq. Gözləyirəm ki, onları ilk dəfə növbəti 12 ayda görəcəyik."

Süni intellekt

Anthropic

Hesabat

Təhlükəsizlik

Texnologiya

Ən çox oxunanlar