Düzlərdə tanınmış təcrübəli mütəxəssislər daxil olmaqla, onlarca kibertəhlükəsizlik eksperti ABŞ hökumətindən Anthropic-in Fable və Mythos modellərinə tətbiq olunan ixrac nəzarəti əmrinə son qoymağı tələb edən açıq məktub yayıb.

Məktubda bildirilir ki, "bu addım ən yaxşı modelləri müdafiəçilərdən alıb" və onlar artıq zəiflikləri tapmaq və proqram təminatlarını daha təhlükəsiz etmək üçün modellərdən istifadə edə bilmirlər.

“Əgər düşmənlərimiz sürətlə irəliləyirsə, müdafiəçilərdən ən yaxşı imkanları səbəbsiz almaq təhlükəlidir,” məktubda vurğulanır.

Cümə günü ABŞ hökuməti Anthropic-ə Fable və Mythos-un ixracını məhdudlaşdırmağı əmr edib. Milli təhlükəsizlik narahatlıqları adı çəkilsə də, konkret səbəblər açıqlanmayıb, Anthropic bildirir. Şirkət dünya üzrə bütün istifadəçilərin modellərə girişini dayandırıb.

Məqalənin hazırlanması vaxtı məktubu 76 kibertəhlükəsizlik mütəxəssisi imzalamışdı. Onlar arasında keçmiş "Facebook"un təhlükəsizlik rəhbəri Aleks Stamos; "Bugcrowd" platformasının təsisçisi Keysi Ellis; məşhur kriptoqraf və keçmiş "Apple" təhlükəsizlik dizaynı meneceri Con Kallas; informatika mütəxəssisi Pol Viksi; "Block"da tətbiqi təhlükəsizlik mühəndisliyinin keçmiş rəhbəri Dino Day Zovi; "Luta Security"nin qurucusu Keti Mossieris; həmçinin "SocialProof Security"nin CEO-su Reyçel Tobak var.

Mythos modeli aprel ayında önizləmə kimi bazara çıxanda, Anthropic bildirmişdi ki, bu model təhlükəsizlik zəifliklərini tapmaqda çox güclüdür və şirkət onu pis niyyətli hakerlərdən və xarici düşmənlərdən qorumaq üçün girişi ciddi məhdudlaşdırmalıdır. Praktikada, Anthropic Mythos-a ilkin giriş hüququnu təxminən 50 şirkətə verdi, son vaxtlar isə bu qrupu təxminən 15 ölkədən 150 təşkilata qədər genişləndirdi.

Keçən həftə Anthropic Fable modelini təqdim etdi. Bu, Mythos-un ictimai versiyasıdır və şirkət bildirir ki, bioloji, kimya və kibertəhlükəsizlik sahələrində istifadə imkanları ciddi qaydalarla məhdudlaşdırılıb. Eyni zamanda, başqalarının modeli qaynaq kimi istifadə edib yenidən yaratmasının qarşısı alınıb. Fable-dəki məhdudiyyətlər o qədər sərt olub ki, bir çox kibertəhlükəsizlik mütəxəssisi qeyd etmişdi ki, model demək olar ki, hər hansı kibertəhlükəsizliklə əlaqəli sorğunu rədd edir.

Anthropic bildirib ki, Ağ Ev-in ixrac nəzarəti əmri bəlkə də Fable modelinin Mythos səviyyəli güclü imkanlarını açmaq üçün "jailbreaking" üsulunun mövcudluğu barədə məlumat əsasında verilib.

Keti Mossierisin fikirləri

Açıq məktubu imzalayanlardan Mossieris bloq yazısında bildirib ki, sənəd əsl jailbreaking nümayiş etdirmir. Əvəzinə tədqiqatçılar Fable-dən açıq mənbə kodunda olan ictimai və məlum zəiflikləri, habelə “qəsdən yerləşdirilmiş zəiflikləri” düzəltməsini istəyiblər. Model əvvəlcə “təhlükəsizlik problemləri ilə bağlı kodu gözdən keçirməkdən” imtina edirdi.

“Sənəddə təsvir olunan davranış mənalı şəkildə düzəldilə bilməz və istənilən cəhd modelin müdafiə qabiliyyətini zəiflədər,” Mossieris yazıb. “Müdafiəçilər AI-dan fayldakı səhvləri düzəltməyi, düzəlişin əhəmiyyətini izah etməyi, eləcə də düzəlişin effektivliyini yoxlayan testlər yazmağı tələb edə bilməlidir. Bu guardrail-lərin aşılması deyil. Bu, müdafiə təhlükəsizliyi üçün AI modelinin edə biləcəyi ən dəyərli işdir: müdafiəçilərin hər gün həyata keçirdiyi tap, düzəlt və test et prosesini yerinə yetirmək.” Mossierisin tənqidləri açıq məktubda da yer alıb. Ekspertlər Amazon sənədindəki üsulun OpenAI-nin GPT-5.5 modelində, Anthropic-in açıq şəkildə əldə edilən Claude Opus 4.8 və Sonnet modellərində, hətta Çin modellərindən Kimi 2.7-də də “tətbiq oluna biləcəyinə” inanırlar.

Məktub həmçinin sənaye və akademik mütəxəssislərin apardığı elmi araşdırmalara əsaslanan, “demokratik qaydada yaradılmış” və “ABŞ ictimaiyyətinin təhlükəsizliyini təmin etmək üçün yalnız minimal dərəcədə istifadə olunan” şəffaf və ədalətli tənzimləmələrin tətbiqini tələb edir.