Süni intellekt şirkəti Anthropic cümə axşamı ən güclü süni intellekt sistemlərinin yaradılmasına qlobal dayanmağa çağırıb. Şirkət bildirir ki, son modellər insan nəzarətindən çıxma ehtimalını göstərməyə başlayıb.

San-Fransisko mənşəli, Claude seriyasından olan AI modellərinin yaradıcısı şirkət hesabatda qabaqcıl süni intellekt inkişafında dünyada yavaşlamanın "yaxşı olacağını", lakin yalnız bir şirkət dayanarsa, rəqiblərin irəliləməyə davam edəcəyini vurğulayıb.

"Biz hesab edirik ki, dünyanın xeyrinə olar ki, qabaqcıl süni intellekt inkişafını yavaşlatmaq və ya müvəqqəti dayanmaq imkanı yaradılsın. Bu, sosial strukturların və uyğunluq araşdırmalarının texnologiyanın irəliləməsinə uyğunlaşmasına şərait yaradacaq," deyə şirkət bildirib.

Əslində dayanma bir neçə əsas süni intellekt şirkətinin, xüsusilə ABŞ və Çin daxil olmaqla, eyni anda, hər kəsin yoxlaya biləcəyi qaydalar altında dayanmağa razılaşmasını tələb edir, deyə Anthropic qeyd edib.

"Qlobal koordinasiya mexanizmi olmadan şirkətlər və hökumətlər təhlükəsizliklə bağlı çətin qərarlar verəcəklər. Bunu isə rəqabət və geopolitik təzyiqlər daha da çətinləşdirəcək," şirkət əlavə edib.

Ağ Ev və sənayedəki digər şəxslər Anthropic -in tənqidini edib. Onların fikrincə, şirkətin əlverişsiz ssenarilərə fokuslanması riskləri böyüdür və rəqibləri dayandırmaq üçün təhlükəsizlik qorxusu pərdəsi altında strategiya tətbiq olunur.

Buna baxmayaraq, Ağ Ev Anthropic -in Mythos modelinin gücünü tanıyır. Bu model kibertəhlükəsizlik qabiliyyətinə görə geniş mühitə təqdim edilməyib və yalnız bir neçə seçilmiş təşkilatda işlədilir.

Təklif Vaşinqtonda və Silikon Vadisində çətinliklə qarşılanacaq. ABŞ rəsmiləri və texnologiya rəhbərləri yayır ki, süni intellekt inkişafının yavaşlaması Çinə bu əsrin texnologiya yarışı kimi görülən sahədə üstünlük verə bilər.

ABŞ Prezidenti Donald Tramp isə son Pekin səfəri zamanı AI təhlükəsizliyi mövzusunda Çinə əməkdaşlıq imkanlarını müzakirə etdiyini açıqlayıb.

Donald Tramp həmçinin bu həftə prezident fərmanı imzalayıb. Fərmana əsasən, ABŞ-ın ən güclü süni intellekt modellərinin yayımlanmasından əvvəl 30 gün ilkin yoxlama aparılacaq.

İnsan rolunun daralması

Anthropic problemi nüvə silahlarının kontrol müqavilələrinə bənzədib. Lakin bildirir ki, onu idarə etmək daha çətin olacaq. Çünki süni intellekt təlimi raket anbarından daha asan gizlədilir və davam etmək istəyinin susqunluğu böyükdür.

Şirkət gələn aylarda hökumət rəsmilərini, alimləri, vətəndaş cəmiyyətini və rəqib süni intellekt firmalarını bir araya gətirməyi planlaşdırır. Məqsəd belə bir sistemin necə işləyəcəyini müəyyən etməkdir.

Bu çağırış Anthropic -in öz daxilində əldə etdiyi məlumatlarla üst-üstə düşür. Məlumatlar süni intellektin öz inkişafını sürətləndirdiyini göstərir.

Bu sürətlənmə, araşdırıcıların "təkrarlanan özünü-inkişaf" adlandırdığı halı yarada bilər.

Bu, az insan dəstəyi ilə süni intellektin özünü daha ağıllı etmə bacarığıdır.

"Hələ ora çatmamışıq və təkrarlanan özünü-inkişaf qaçılmaz deyil," hesabatda bildirilir. Ancaq əlavə olunur ki, bu, bir çox hökumət və institutun hazır olmadığı vaxtdan daha yaxın ola bilər.

Şirkət vurğulayır: "Süni intellektin inkişaf prosesində insan rolunun hər mərhələdə daraldığına dair təsdiqlər var."