Decoder podkastının bugünkü buraxılışında qonağım The Verge-in baş süni intellekt müxbiri Hayden Fielddir. Hayden tez-tez proqramımıza gəlir, çünki süni intellekt sahəsində nəsə yaxşı getmədiyi zaman onun şərhi olur. Ötən həftəsonu isə vəziyyət Anthropic, Tramp administrasiyası və Anthropic-in yeni süni intellekt modeli Fable 5-in mürəkkəb qarşılıqlı əlaqəsi ilə bağlı idi.

Cümə günü Anthropic Fable modelini ictimaiyyətə təqdim edəndən bir həftə keçməmiş ABŞ hökuməti bu yeni modelə və onun bazası olan Mythos modelinə ixrac nəzarətləri tətbiq etdiyini açıqladı. Bu nəzarətlər ABŞ-da işləsələr belə, xarici vətəndaşların həmin modellərə çıxışını qadağan edir. Anthropic isə bu səbəbdən Fable və Mythos modellərinin fəaliyyətini hamı üçün dayandırdı, çünki şirkət girişləri məhdudlaşdırmaqda çətinlik çəkəcəyindən narahat idi.

Vəziyyətin yaratdığı çaşqınlıq böyükdür. Hayden mövzunu The Verge saytında ətraflı təhlil edib. Cümə günü nələrin baş verdiyini və həftəsonu hər iki tərəfin problemi anlamaq və həll etmək uğrunda apardığı mübarizəni izah edir. Ona görə də onu dəvət etdim ki, tarix boyu baş verənləri bizə danışsın və vəziyyətin mahiyyətini aydınlaşdırsın.

The Verge abunəçiləri unutmamalıdır ki, Decoder-da reklam olmayan eksklüziv çıxış imkanları mövcuddur. İstənilən podcast platformasında dinləmək üçün buraya daxil ola bilərsiniz. Abunə deyilsinizsə buradan qeydiyyatdan keçə bilərsiniz.

Biz bu söhbəti çərşənbə axşamı günü aparırıq və həmin vaxt Fable hələ də işləmirdi. Claude söhbət qutusunun üstündə “Fable 5 hazırda əlçatan deyil” mesajı görünür. Haydenin bildirdiyi kimi, Fable-in bu həftə işə qayıdıb-qayıtmayacağına baxmayaraq, ABŞ hökuməti ilə Anthropic arasındakı qarşıdurmanın texnologiya sənayesinə və ölkənin süni intellektə nəzarət sisteminə böyük təsirləri olacaq.

Burada bir ironiya da var: Anthropic illərlə süni intellektin yaxın gələcəkdə təhlükəli ola biləcəyini və ABŞ hökumətinin süni intellekti tənzimləməkdə ciddi olmalı olduğunu vurğulamışdı. İndi isə həmin vəziyyət gerçəkləşir, amma Anthropic bunun necə icra olunduğunu bəyənmir.

İndi isə hər kəs, xüsusilə Çin hökuməti izləyir ki, ABŞ-ın süni intellektə nəzarət yanaşması ciddi təhlükəsizlik çərçivəsi olacaq, yoxsa Tramp administrasiyasının nəzarət etmək istəmədiyi şirkət və insanlara qarşı yeni bir vasitə kimi tətbiq ediləcək. Vəziyyət olduqca mürəkkəbdir.

Beləliklə, The Verge-in baş süni intellekt müxbiri Hayden Field Claude Fable qadağası və ABŞ süni intellekt tənzimləmələrinin yeni mənzərəsi barədə danışır.

Bu transkript uzunluğu və aydınlığı üçün yüngül redaktə olunub.

Hayden Field, The Verge-də baş süni intellekt müxbirisiz. Xoş gəlmisiz Decoder-a.

Təşəkkür edirəm. Burada olmaq xoşdur.

Burada hər zaman qarışıqlıq olur, bunu öyrəndim, Hayden.

Bəli, həmişə cümə günləri belə olur. Cümə günləri ümumiyyətlə hər şey qarışır, bu dəfə də fərqli olmadı.

Xüsusilə hökumətin süni intellektə nəzarəti ilə bağlıdır. "Əgər cümə günü hər şey qarışsa, həftəsonu bununla məşğul olmaq məcburiyyətindəyik" deyə vəziyyət məhz belədir. Tramp administrasiyası dövründə belə hallar çox olub və cümə axşamı baş verənlər bazar ertəsi həll olunmağa çalışılır.

Bəli, vəziyyət çətindir. Həftəsonu danışıqlar davam edir, bazar ertəsi isə hələ də həll yoxdur. Hələ də problemin həll olunmamasına təəccüblənirəm, amma çoxlu gərginlik var.

Bu podkast cümə axşamı yayımlanacaq, biz çərşənbə axşamı danışırıq. İki gün ərzində baş verənləri görəcəyik. ABŞ hökumətinin süni intellekti necə tənzimləyəcəyi və bunun dünya səhnəsində Amerikanın süni intellekt şirkətlərinə təsiri hələ aydın deyil. Fable ilə bağlı nə olursa olsun, problemin həllini gətirməyəcək.

Gəlin hekayəni başa düşməyə çalışaq və mövzuları ayıraq. Hər yeni model çıxdıqca bu mövzular təkrarən gündəmə gələcək. İlk növbədə, Claude Mythos və Fable nədir? Bunlar necə bağlıdır?

Yaxşı sualdır. Mən Anthropic-ə də bunu bir həftə əvvəl soruşdum. Süni intellekt şirkətləri ad verməkdə çətinlik çəkir və həmişə qarışıqlıq yaranır. Mythos həm Mythos 5, həm də Fable 5-in əsasını təşkil edən modeldir. Fable isə yeni modeldir. Onun 1, 2, 3 və 4 versiyaları olmayıb. Birbaşa Fable 5 ilə başladılar, bu çox çaşdırıcıdır. Fable Mythos 5-in zəiflədilmiş və ya qorunmuş versiyasıdır. Apreldə Mythos Preview çıxanda Anthropic bu modeli yüksək səviyyədə təqdim etmiş, onu potensial kiber-silah kimi təsvir etmişdi. Təhlükəsizlik tədbirləri hazır olana qədər onu yalnız müəssisə və hökumətlərə vermək planlaşdırılırdı.

Ötən həftə Anthropic Mythos 5-in rəsmi versiyasını təqdim etdi. Bundan başqa, eyni gündə ictimaiyyət üçün Mythos səviyyəsində Fable 5-i təqdim etdi. Eyni baza modeldir, lakin Fable-də təhlükəsizlik tədbirləri çoxdur ki, təhlükəli modelin ictimaiyyətə çıxışı məhdudlaşdırılsın.

Anthropic uzun müddət bu modelin təhlükəli olduğunu vurğulayırdı, sonra bu məsələ şirkətə problem yaratdı.

Fable Mythos-a əlavə edilmiş təhlükəsizlik zəncirləridir. İlk dəfə çıxanda tədqiqatçılar bu zəncirlərin alimlərin işinə mane olduğunu gördülər, çünki sərhədi keçmək istəyəndə sistem əvvəlki modellərə keçid verirdi.

Bəli, bu, internetdə qalmaqal doğurmuşdu. İnsanlar sərt məhdudiyyətləri lağa qoyurdular.

Məni də qarışdıran odur ki, zəncirlər sərtdir, amma hökumət Fable-i təhlükəli hesab edib istifadəni qadağan etmək istədi. Nə baş verdi?

Bu barədə müstəqil qırmızı komandalarla söhbət etdim. Amazon ağ kağızı yayımlanmadan və jailbreak ittihamı məlum olmadan əvvəl Fable 5-in təhlükəsizliyi müzakirə olunurdu. Onlar zəncirlərin çox yaxşı işlədiyini söyləyirdilər. Mən jailbreak-in asan olacağını gözləyirdim, amma onlar çoxlu sınaqdan sonra uğursuzluqla qarşılaşdıqlarını deyirdilər. Bu, mənim digər təcrübəmlə üst-üstə düşmürdü.

Dünən mənə danışıqlara yaxın olan mənbə məlumat verdi ki, keçən həftənin ortalarında Anthropic Amazon tədqiqatçılarının potensial jailbreak aşkar etdiyini öyrəndi və narahat oldu.

Amazon məlumatı Anthropic-ə göndərdi, tərəflər araşdırmalar apardılar. Məqsəd jailbreak-in ciddi olub-olmadığını müəyyənləşdirmək idi. Amazon-un CEO-su Andy Cessi narahatlığını Tramp administrasiyasının maliyyə naziri Skott Besent və ya başqa rəsmi şəxslərə çatdırdı.

Tramp administrasiyası dərhal Anthropic ilə əlaqə saxladı və onlara 90 dəqiqə ərzində işi dayandırmaq tapşırıldı. 90 dəqiqəlik ultimatum verilmişdi. Administrasiya əməkdaşları Anthropic-dən danışılan jailbreak haqqında daha ətraflı məlumat istədi, lakin cavab ala bilmədi. Nəticədə qərar verildi ki, ixrac nəzarətləri tətbiq olunacaq.

Anthropic-ə bildirilmişdi ki, heç bir xarici vətəndaş, hətta şirkətin daxilində çalışan olsa belə, bu modellərdən istifadə edə bilməz. Məsələn, Bank of America Mythos 5-ə çıxış əldə edib zəiflikləri bağlamağa çalışırsa, ABŞ vətəndaşı deyilsə, ona da çıxış qadağandır. Bu məhdudiyyət Fable 5 istifadə edən bütün xarici vətəndaşlar üçün keçərlidir.

Şirkət mövcud vəziyyətdə belə addım atmağı yeganə çıxış yolu saydı: "İk modelin fəaliyyətini dayandırmalıyıq, çünki qeyri-ABŞ vətəndaşlarının istifadəsini dərhal yoxlamaq mümkün deyil".

Hadisə çox gərgin keçmişdi. Anthropic həmin gecə bəyanat yayaraq Tramp administrasiyası ilə əməkdaşlıq etməyə hazır olduğunu bildirdi. Bütün həftəsonu rəsmi görüşlər oldu və şirkət üç əməkdaşını Vaşinqtona göndərdi ki, danışıqlarda iştirak etsinlər.

Maraqlıdır ki, CEO Dario Amodei şəxsi olaraq orada deyildi, yalnız virtual qatılırdı. Onun sağlamlıq üzrə nəzarətdə olmadığı təsdiqlənir və bəzi xəbərlər sağlamlıq istirahətində olduğuna dair doğru deyil.

Anthropic sağlamlıq istirahətində olmadığını təsdiqləyir. (Gülür). Vəziyyət çox mürəkkəb və dramlıdır. Mənim danışdığım mənbələr texnologiya və xüsusilə kiber təhlükəsizlik cəmiyyətinin belə bu vəziyyəti ciddi qəbul etmədiyini bildirir. Bir mənbə əlavə edib ki, "Pekin indi bununla gülür."

Bəzi kiber təhlükəsizlik ekspertləri birgə bəyanat verib deyiblər: “Tənzimləməyə inanmırıq, amma tənzimləyirsinizsə, bu yol yanlışdır.” Bu, mövzunun nə dərəcədə dərin olduğunu göstərir. Hökumətin sərt tənzimləmə siyasətinin əleyhinə olanların fikri budur.

Andy Cessi və Skott Besent kimi şəxslər yüksək vəzifələrdədir, amma süni intellekt üzrə mütəxəssis deyillər. Amazon-un CEO-su təhlükəsizlik araşdırması barədə özü məlumat alıb və narahat olub. O, maliyyə nazirinə məlumat verib, lakin o, süni intellekt siyasətinə nəzarət etmir. Bu hadisənin gedişi siyasi səviyyədə güclü təsir göstərir.

Bu, ya tarixdə ən ciddi təhlükəsizlik kəsilməsi, ya da bu sahədə önəmli olmaq istəyən bir qrupun həyəcanı ola bilər. Hansının olduğunu deyə bilmirəm.

Hadisə bir neçə səbəbin qarışığıdır. Bunlardan biri odu ki, yuxarıda qeyd edildiyi kimi, çoxları süni intellekt üzrə mütəxəssis deyillər. Hər hansı jailbreak ciddi məsələdir və araşdırılmalıdır, lakin sistemlərin necə işlədiyini bilmirsinizsə, hadisəyə qara-ağ yanaşma olacaq. Bu insanlar ekspert deyildilər.

Andy Cessi öz tədqiqatçılarından bu barədə məlumat aldı. Onlar Anthropic ilə danışıqlar aparırdılar və vəziyyət ilə bağlı prezidentə zəng etmirdilər, sadəcə müzakirə edirdilər. Sonra Andy Cessi məlumat aldı, dərhal zəng etdi və vəziyyət olduqca qarışdı. Süni intellekt mütəxəssisi olmayıbsa, belə hadisələr qarşısında təşvişə düşmək təbiidir.

Buna görə ən qəribə tərəfi 90 dəqiqəlik ultimatumun verilməsi və Anthropicin əlavə məlumat almaq imkanının olmaması oldu. Onlar "90 dəqiqə, ya da nəticə" şəklində qərar verdilər.

Nəticədə heç bir xarici vətəndaşın sistemlərə həmişəlik çıxışı qadağan olundu. Bu qərar texnologiya sahəsində əksər mütəxəssislərin tənzimləmə anlayışına zidd olaraq görülür. Tramp administrasiyasının texnologiyaya yanaşmasının göstəricisi kimi qiymətləndirilir. Tramp çox zaman mövqeyini dəyişir; o, anti-tənzimləmə mövqeyində olub, Amerikada süni intellektin irəliləməsinə dəstək verib, bu da Ticarət Departamentinin siyasətinə uyğundur.