Anthropic süni intellekt alətinin güclü versiyasını ictimaiyyətə təqdim etdi
Anthropic şirkəti süni intellekt alətinin çox güclü versiyası Claude Fable 5-i bundan sonra geniş ictimaiyyətə istifadəyə verib. Bu alətin təhlükəsizlik və istifadəçi məhdudiyyətləri mövcuddur.
Şirkətin ictimaiyyətə təqdim etməyə çox güclü olduğu üçün əvvəlcə təqdim edilməyəcəyi bildirilən süni intellekt alətinin bir versiyası indi açıq istifadə üçün təqdim olunub.
Claude Fable 5, şirkətin Claude Mythos adlı süni intellekt proqramının versiyasıdır. Mythos aprel ayında ilkin test və baxış məqsədilə məhdud sayda istifadəçiyə təqdim edilərkən texnologiya, maliyyə və hökumət rəhbərləri arasında müzakirələrə səbəb olmuşdu.
Bəzi yüksək vəzifəli şəxslər bu alətin çox güclü olduğunu və maliyyə təhlükəsizliyi üçün risk yarada biləcəyini düşünürdülər. Lakin digərləri bu şişirdilmənin əsasən marketinq taktikası olduğunu düşünürlər.
Anthropic şirkəti çərşənbə günü bildirib ki, Fable təhlükəsizlik tədbirləri və istifadəçi məhdudiyyətləri ilə təqdim olunacaq, lakin "belə güclü modelin istifadəsi risklərlə müşayiət olunur."
Şirkət əlavə edib ki, "Fable-un qabiliyyətləri bundan əvvəl təqdim etdiyimiz modellərin heç birindən daha üstündür."
İlkin olaraq Mythos aləti məhdud sayda təşkilata təqdim olunanda, Anthropic təhlükəsizlik məqsədilə bu alətin çox zəka səviyyəsində olduğunu və kompüter sistemlərinə müdaxilə və ya hücum edə biləcəyindən narahat idi.
Kanadanın Maliyyə naziri Fransa-Filipp Şampan aprel ayında BBC-yə bildirib ki, Mythos üzərində diqqət yetirilməsi haqlıdır, çünki "bilinməyən, bilinməyəndir."
Digər tərəfdən, ABŞ Müdafiə Nazirliyi ilə davam edən məhkəmə işi olmasına baxmayaraq, ABŞ hökumət agentlikləri də Mythos alətini sınaqdan keçirirlər.
Anthropic yaxın zamanda özəl şirkətdən açıq şirkətə çevriləcək və hazırkı özəl dəyəri 1 trilyon dolların yaxınlarındadır. Bu, şirkətin süni intellekt sahəsində artan bacarıqlarını və investorlar üçün dəyərini göstərir.
Şirkət həmçinin çərşənbə günü Mythos-un əvvəlcədən baxış üçün təxminən 150 təşkilata verildiyini və indi bu təşkilatların həmçinin Claude Mythos 5-ə giriş imkanı olacağını bildirib. Bununla riskli kiber təhlükəsizlik və bioloji məhdudiyyətlər tətbiq edilmir, istifadə məqsədindən asılıdır.
Mythos istifadə edən qrup və şirkətlər tərəfindən Anthropic-ə bildirilib ki, öz sistemlərində 10 mindən çox kritik təhlükəsizlik çatışmazlığı aşkarlanıb.
Anthropic bildirib ki, bu yenilənmiş giriş hazırda "kiçik qrup kibertəhlükəsizlik müdafiəçiləri və infrastruktura təminatçıları" üçün nəzərdə tutulub, lakin yaxın vaxtlarda genişləndiriləcəyi gözlənilir.
Şirkət əlavə edib: "Mythos 5-ə girişin daha geniş etibarlı proqram vasitəsilə genişləndirilməsini planlaşdırırıq."
Fable və Mythos modelləri, fərqli təhlükəsizlik tədbirləri və istifadəçi səviyyələri ilə demək olar ki, eynidir və "insan tapşırıqlarını əvvəlki Claude modellərindən daha uzun müddət diqqətsiz icra edə bilər." Anthropic əlavə edib.
Anthropic-in həmtəsisçisi Cek Klark BBC-yə verdiyi müsahibədə bildirib ki, süni intellekt alətlərinin qabiliyyətləri o qədər sürətlə artır ki, ictimaiyyət texnologiyanın inkişafını yavaşlatmaq üçün vasitə olmalıdır.
"İstəyirsiniz ki, əməliyyat pedalını buraxıb əyləci basmaq seçimi olsun," o deyib. "Hazırda süni intellekt sənayesi əməliyyat pedalına sahibdir, amma əyləc pedalı yoxdur."
BBC News
Version of AI tool 'too powerful for public' released to public
Orijinal məqaləyə keç


