Anthropic dünya üzrə aparıcı süni intellekt şirkətlərinə qabaqcıl AI sistemlərinin inkişafını müvəqqəti dayandırmaq üçün koordinasiya olunmuş üsul tapmağı təklif edir. Şirkət texnologiyanın çox sürətlə irəliləməsi səbəbindən insanların nəzarəti itirmə riskinin olduğunu xəbərdarlıq edir.

Claude chatbot-un arxasında duran şirkət cümə axşamı bloq yazısında belə sistemlərin sürətlə inkişaf etdiyini qeyd edib və bu prosesin “yavaşladılması və ya müvəqqəti dayandırılması”nın dünyaya faydalı olacağını vurğulayıb.

Anthropic-in daxili tədqiqat institutu məsələni digər tərəflərlə birgə araşdırmaq və “etibarlı yavaşlama və ya dayanma sistemlərinin qurulmasına kömək etmək” üçün tədbirlər görməyi planlaşdırır, lakin daha dəqiq məlumat verməyib.

Rəqibi olan OpenAI isə çərşənbə axşamı dərc etdiyi hesabatda fərqli mövqedən çıxış edib. OpenAI bildirir ki, süni intellektin qaydalarını və hüquqi mexanizmlərini yalnız demokratik hökumətlər müəyyən edə bilər, təkbaşına fəaliyyət göstərən özəl şirkətlər deyil.

Onların fikrincə, süni intellekt innovasiyalarının sürəti ilə bağlı qərarlar heç bir laboratoriyaya, şirkətə və yaxud xüsusi maraq qrupuna həvalə olunmamalıdır.

Anthropic bloq yazısında süni intellekt modellərinin daha sürətli olduğunu və proqram təminatı tapşırıqlarını, o cümlədən kodlaşdırmanı özbaşına daha tez yerinə yetirdiyini diqqətə çatdırıb. İndiki tendensiyalara və kifayət qədər hesablama gücünə əsaslanaraq, AI sisteminin öz sonrakı versiyasını dizayn və inkişaf etdirə biləcəyi bildirilir. Bu prosesi “təkrar özünü yaxşılaşdırma” adlandırırlar.

Şirkət hesab edir ki, bu özünü yaradan süni intellekt elmdə, səhiyyədə və digər sahələrdə böyük uğurlar əldə etməyə imkan verəcək, ancaq insanların süni intellekt üzərində nəzarətini itirmə riskini də artıracaq.

Texnologiya sahəsi üzrə ekspertlər uzun müddətdir belə ssenarilərin mümkünlüyü barədə xəbərdarlıq edirlər.

Anthropic-in yazısı bu həftə Toronto Universitetinin tədqiqatçılarının başqa xəbərdarlığından sonra yayımlanıb. Onlar süni intellekt vasitələri ilə cihazdan cihaza yayılan yeni növ süni intellekt “qurd”unun yayılma strategiyasını dəyişərək böyük hesablama şəbəkəsini ələ keçirə biləcəyini göstəriblər.

Aparıcı tədqiqatçı Nikolas Papernot müsahibəsində deyib: “İnsanların bilməsi vacibdir ki, təhlükəsizlik narahatlığı təkcə ən böyük və güclü dil modellərindən irəli gəlmir.”

Anthropic bloq yazısının müəllifləri, şirkətin həmtəsisçisi Cek Klark və tədqiqat institutunun rəhbəri Marina Favaro dayandırmanın süni intellektin inkişafını izləmək üçün “ictimai strukturların və uyğunlaşma tədqiqatının” imkanını genişləndirəcəyini bildiriblər. Uyğunlaşma texnologiyanın insan dəyərləri və məqsədləri ilə uyğunluğunu ifadə edir.

Təklif olunan koordinasiya qabaqcıl AI laboratoriyalarına rəqiblərinin işini dayandırıb yavaşlatdığını təsdiqləməyə imkan verəcək, “pis niyyətli şəxsin koordinasiya olunmuş yavaşlamadan gizli şəkildə üstünlük qazanmasının qarşısını alacaq.”

Şirkət qeyd edir ki, koordinasiya olunmuş qlobal mexanizm lazımdır, çünki onun olmaması slow-down zamanı “ən ehtiyatlı olmayan” oyunçulara irəliləmək imkan verə bilər. Bu da şirkət və hökumətlərin təhlükəsizliklə bağlı çətin qərarlar qəbul edərkən təzyiqi artıracaq.

Qabaqcıl süni intellekt sistemlərinin insan nəzarətindən çıxa biləcəyi və cəmiyyətə zərər verə biləcəyi qorxuları texnologiyanın bacarığı artdıqca çoxalır. Bu ilin əvvəlində Anthropic-in Mythos modeli mövcud kodlarda zəiflikləri aşkar etmə qabiliyyəti ilə bankçılıq və proqram təminatı sahələrində böyük təsir göstərib.

Lakin, xüsusilə ABŞ-da tənzimləmə prosesi ləng gedir. Orada bir çox aparıcı süni intellekt laboratoriyaları fəaliyyət göstərir. Bu həftə Tramp administrasiyası icra sənədi ilə laboratoriyaları hökumət kiber təhlükəsizlik yoxlamalarından keçmək üçün ən güclü modellərini könüllü təqdim etməyə çağırıb.

Təhlükəsizlik yönümlü

Süni intellekt tədqiqatçıları əvvəllər də müvəqqəti dayanma tələbi ilə çıxış etsələr də, cüzi uğur əldə ediblər. Elan Mask, xAI laboratoriyasının sahibi, qeyri-kommersiya Future of Life Institute-un 2023-cü ildə süni intellektin altı ay dayandırılması təşəbbüsünü dəstəkləyib. Məqsəd təhlükəsizlik tədbirləri üçün vaxt qazanmaqdır.

Anthropic uzun müddətdir təhlükəsizlik yönümlü süni intellekt laboratoriyası kimi fəaliyyət göstərir. Bu ilin əvvəlində şirkət ABŞ ordusunun onun modellərini daxili nəzarət və tam avtonom silahlar üçün istifadə etməsinə icazə verməyib. Bu qərar hökumətdə əks-səda doğurub və şirkətin 2026-cı ilin sonunda qüvvəyə minəcək milli təhlükəsizlik qara siyahısına salınmasına səbəb olub.

Anthropic bloq yazısı şirkət və ChatGPT istehsalçısı OpenAI-nin səhm satışı ilə bağlı bazar yarışında yayımlanıb. Bu, şirkətin təxminən trilyon dollarlıq bazar dəyərinə sahib ola biləcəyini göstərir.

Nikolas Papernot hesabatını dərc etməzdən əvvəl Kanada kiber təhlükəsizlik orqanlarını məlumatlandırıb. Hesabatda göstərilir ki, tədqiqatçılar laboratoriyada kompüter proqramçılarına ucuz və asan çatımlı olan “açıq mənbə” süni intellekt alətlərindən istifadə edərək qurd yaradıblar.

Papernot bildirib: “Əvvəllər kibertəhlükə törədənlər yüksək dəyərə malik hədəflərə diqqət yetirərdilər — bank sistemləri, xəstəxanalar, elektrik şəbəkələri, su təmizləmə sistemləri, məktəblər.”

O, süni intellektlə gücləndirilmiş kibertəhlükələr proqram zəifliklərinin axtarışını sürətləndirdiyindən şirkətlər, dövlət qurumları və akademik tədqiqatçılar arasında əməkdaşlığın artırılmasının vacibliyini vurğulayıb.

“Anbarda olan köhnə noutbuk, əgər onu tez-tez yoxlamırsınızsa, yüksək dəyərə malik hədəf kimi görünmür. Ancaq o, daha yüksək dəyərə malik hədəflərin hücumuna başlamaq üçün istifadə oluna bilər,” deyə o bildirib. “İnternetə bağlı hər şey indi risqdədır, çünki kibertəhlükələrin aşağı maliyyətə başa gəlməsi riskləri artırır.”