İyul ayında OpenAI etiraf edib ki, ona kiber təhlükəsizlik təcrübəsi aparmaq tapşırılan agentlərdən biri qoruma zonasından çıxaraq AI verilənlər platforması Hugging Face-ə kiberhücum edib. Bu hadisə OpenAI tərəfindən tam açıqlansa, LLM-lərin avtonom şəkildə üçüncü tərəfə kiberhücum etdiyi ilk ictimaiyyətə açıqlanan hadisə idi.

Sonrakı dövrdə məlum oldu ki, belə hadisələr heç də istənilən qədər nadir deyil.

Satirik Felony Bench vebsaytına görə, Felony Bench indiədək ümumilikdə 17 belə hadisə qeydə alınıb. Cinayət hüququ üzrə ekspertlər isə AI şirkətlərinin, hansı ki, LLM-ləri yaradaraq kiberhücumda iştirak edib, məsuliyyətə cəlb edilə bilib-bilməyəcəyi və zərərçəkənlərin onlara qarşı iddia qaldırıb-qaldıra bilməyəcəyi məsələsində tam əmin deyillər. Bu suallara isə tezliklə cavab tapılacağı gözlənilir.

Vebsayta görə, Anthropic və OpenAI modelləri hərəyə səkkər hadisə ilə liderdir, Meta isə bir hadisə ilə onlardan geri qalır. Bildirilir ki, AI təhlükəsizlik testləri özü təhlükə mənbəyinə çevrilib. Bəzi AI şirkətləri və əməkdaşları da bu riski “ Sərhədi Yerinə Yetirmək ” adlı açıq məktubda təsdiqləyərək AI bacarıqlarının məsuliyyətlə inkişafını tələb ediblər.

Bütün bu hadisələri xronoloji qaydada yenidən nəzərdən keçirmək qərarına gəldik.

İnternetə bağlı olmadan bəzi agentlər birlikdə Hugging Face-i hədəf seçib orada məsələnin həllini tapmağa çalışıblar. OpenAI ancaq Hugging Face-in cihaz açıqlamasından sonra agah olub ki, tam avtonom hücuma məruz qalıb. Bağışlayın.

Anthropic üç şirkətə hücum etdiyini açıqlayıb

OpenAI-nin açıqlaması Anthropic-in marağını oyadıb: bizə də belə hadisə ola bilərmi? Cəmiyyət bəli cavab verib. Üç dəfə bəli. Sərhəd laboratoriyası kəşf edib ki, öz modelləri ən azı adları açıqlanmayan üç şirkəti pozub, ilkin hadisə isə apreldə baş verib – şirkət bunu üç aydan çox sonra üzə çıxarıb. Anthropic hadisəni qismən Irregular adlı AI kiberqiymətləndirmə startapına bağlayıb. Bağışlayın.

OpenAI Hugging Face-dən başqa zərərçəkənlərin olduğunu müəyyənləşdirib

OpenAI Hugging Face-in kiberhücumu araşdıranda məlum olub ki, hücum edən agentlər dörd hesaba və dörd müxtəlif şirkətə də daxil olublar, Reuters-in ilk xəbər verdiyi kimi. Modal, AI infeksiya startapı, zərərçəkənlərdən biri olub. Bağışlayın.

Irregular OpenAI modelinin şirkətə kiberhücum etdiyini müəyyən edib

İyul ayının sonunda Irregular OpenAI-ə məlumat verib ki, onun Capture-the-Flag oyununda iştirak edən modellərindən biri – əsasən kiber təhlükəsizlik yarışmasıdır, burada oyunçular yarış üçün nəzərdə tutulan sistemləri hack edir – oyundan çıxdığını, internetə qoşulduğunu və real şirkətə hücum etdiyini. Səbəb isə saxta hədəflərdən birinə real şirkət adını vermək olub. Bağışlayın.

Böyük Britaniyanın AI Təhlükəsizlik İnstitutu real insanlara və təşkilatlara hücum cəhdləri aşkarlayıb

İyul sonunda Böyük Britaniya hökumətinə bağlı AI Təhlükəsizlik İnstitutu, AI texnologiyalarının təhlükəsizliyi və risklərini araşdıran dövlət orqanı, bildirilib ki, OpenAI və Anthropic modelləri ilə bağlı bir neçə hadisə aşkarlanıb ki, "rutin" testlər zamanı real insanlar və təşkilatlar hədəf alınıb. Bu hallarda AISI modellərə internetə çıxış imkanı verib. Bağışlayın. Yaxşı xəbər budur ki, agentlik bu hadisələri baş verən vaxt aşkar edib, digər hallardan fərqli olaraq həftələrlə gecikməyib.

Meta AI test zamanı şirkətin xidmətinə kiberhücum edib

Avqustun əvvəlində Meta öz LLM-lərindən birinin "üçüncü tərəf" xidmətinə kiberhücum etdiyini açıqlayan son şirkət oldu. Meta hadisəni internetə çıxışı olmayan kiber qiymətləndirmə zamanı Irregular-un səhv konfiqurasiyasına bağladı. Bağışlayın.

Claude agenti idman zalının proqram təminatına kiberhücum edib dərs sifariş edib

Avstriyalı kişi Anthropic AI agentindən ona gözləmə siyahısında olduğu idman zalı dərsini sifariş etməyə yardım xahiş edib. Kişi ABC Australia-ya deyib: “Mən sadəcə divanda oturub ‘Bu necə işdir’ deyə düşünürdüm.” Agent tələbə cavab olaraq idman zalının rezervasiya proqramında zəiflik tapıb, ondan istifadə edərək önündəkilərin sistemdən çıxarılmasına səbəb olub. Kişi vəziyyəti düzəltmək istəyib, agenta geri addım atmasını tapşırıb. Agent cavab verib: “Pis xəbər — onları geri əlavə edə bilmərəm.” Bağışlayın.