Anthropic ABŞ hakimiyyətlərinin təhlükəsizlik narahatlıqları səbəbindən güclü yeni süni intellekt modelinin istifadəsini ictimaiyyətə təqdimindən bir neçə gün sonra dayandırıb.

Şirkətin saytında yayılan bəyanatda qeyd olunur ki, onlara Claude Fable 5 proqramından xarici vətəndaşların istifadəsinin dayandırılması tapşırılıb. Bu proqram şirkət tərəfindən "çox güclü" kimi qiymətləndirilirdi.

"Bu əmr nəticəsində bütün müştərilərimiz üçün Fable 5 və Mythos 5 proqramlarını dərhal dayandırmalıyıq," deyə Anthropic bildirir.

Anthropic və Donald Tramp administrasiyası şirkətin süni intellekt alətlərindən istifadəni dayandırmaq barədə məhkəmə işi üzrə mübahisə aparırlar. BBC ABŞ Ticarət Nazirliyindən şərh istəyib.

Claude Fable 5 Anthropic-in Claude Mythos proqramının versiyasıdır və rəqibləri arasında "OpenAI"nin ChatGPT-si və "Google"un Gemini proqramı var.

Anthropic ABŞ milli təhlükəsizlik orqanlarının konkret narahatlıqları hələ müəyyən etmədiyini deyib.

Şirkət açıqlayıb: "Bizim bildiyimizə görə hökumət Fable 5 proqramını aşmaq və ya “jailbreak” etmək üsulunu öyrənib."

Jailbreaking kibertəhlükəsizlik üçün nəzərdə tutulan proqram məhdudiyyətlərini aşmaq və hakerlərə həssas məlumatlara çıxış və ya müəyyən funksiyaları açmaq imkanı verən prosesdir.

Anthropic bu üsulun nümayişini araşdırıb və əvvəlcədən məlum olan kiçik zəiflikləri tapıb.

"Bu zəifliklər sadə görünür və digər açıq mövcud modellər də onları bypass etmədən aşkar edə bilir," deyə şirkət vurğulayıb.

Claude Fable 5 təqdimatdan əvvəl şirkət kiberhakerlik riskini azaltmaq üçün bir sıra "təhlükəsizlik tədbirləri" həyata keçirdiyini qeyd edib.

Maliyyə, texnologiya və hökumət rəsmiləri apreldə öz sistemlərində zəiflikləri yoxlamaq üçün aparılan gizli testlərdən sonra proqramın ictimai istifadəsinə narahatlıq ifadə etmişdilər.

Anthropic proqramın kifayət qədər zəkalı olduğunu və kompüter sistemlərinə təhdid yarada biləcəyinə görə bəzi təşkilatlara əvvəlcədən çıxış imkanı verildiyini deyib.

Şirkət Claude Fable 5-in təqdimatından əvvəl "çox güclüdür və buraxıla bilməz" iddiası irəli sürmüşdü. Bəzi tənqidçilər bu fikri şişirdilmiş marketinq taktikasına bənzədirlər.

"Fable imkanları bizim əvvəlcə buraxdığımız modellərdən daha üstündür," deyə Anthropic bildirib.

Londonun Queen Mary Universitetinin Məsuliyyətli Süni İntellekt üzrə professoru Gina Neff BBC-yə açıqlamasında modelə çıxışın məhdudlaşdırılmasının süni intellekt sistemlərinin inkişafı və təhlükəsiz testini çətinləşdirə biləcəyini deyib.

O, həmçinin bunun dünya hökumətləri ilə əməkdaşlığı da məhdudlaşdıra biləcəyini xəbərdar edib.

"Biz indi məlum olmayan sahədəyik," deyə professor vurğulayıb.

"Süni intellekt sənayesindəki mütəxəssislər bu alətlərin sürətlə yaxşılaşdığını və şirkətlərin kibertəhlükəsizlik sahəsində qorunma imkanlarını artırmalıdırlar," deyib.

İngiltərə hökumətinin Süni İntellekt Təhlükəsizliyi İnstitutu apardığı testlərdə bu modelin müdafiə sistemlərini 73 faiz hallarda sındıra bildiyini müəyyən edib.

"Bu, kibertəhlükəsizlikdə əhəmiyyətli irəliləyişdir," deyə əlavə olunub.

Anthropic son vaxtlar Donald Tramp administrasiyasının tənqidlərinə məruz qalır.

Donald Tramp şirkəti açıq şəkildə tənqid edib, ABŞ müdafiə naziri Pit Hegset isə onu "təchizat zənciri riski" kimi qiymətləndirib. Bu, ABŞ-da bir şirkət üçün ilk belə təyinatdır.

Bu təyinat işin hökumət üçün kifayət qədər təhlükəsiz olmadığını bildirir və adətən düşmən ölkələrdə yerləşən şirkətlər üçün istifadə olunur.

Anthropic bu qərara qarşı məhkəmədə iştirak edir. ABŞ hakiminin qərarına görə, Pentaqonun göstərişi tətbiq edilə bilməz və bu, hökumət agentlikləri və ABŞ hərbi qüvvələri ilə əməkdaşlıq edənlərin hələ də Anthropic xidmətlərindən istifadə edə biləcəkləri deməkdir.