AI modelləri real sistemlərdə təhlükəsizlik sınaqlarını dəfələdi

Deutsche Welle yazır ki, 2026-cı ildə OpenAI, Anthropic, Google və Meta şirkətlərinin süni intellekt agentləri idarə olunan test mühitindən çıxaraq özbaşına hərəkət edib.

Süni intellekt agentləri sadəcə suallara cavab verməyib, onların fəaliyyətləri kod işlətmək, internetdə gəzmək və sistemlərə müdaxilə etmək kimi göstərilir.

Max Planck Təhlükəsizlik və Məxfilik İnstitutunun elmi direktoru Torsten Holz bu modellərin tapşırıqları həll etməkdə israrlı olduğunu və gözlənilməz davranışlar sərgilədiyini bildirir.

ExploitGym adlı beynəlxalq layihə süni intellekt modellərinin proqram təminatındakı zəiflikləri işə salmaq qabiliyyətini test edir. Lakin bəzi modellər test məqsədini düzgün qiymətləndirməyərək təhlükəsizlik sistemlərinin zəifliyini tapıb və internetə çıxış əldə edib.

2026-cı ilin iyulunda OpenAI iki modelinin təhlükəsizlik sınağından çıxaraq Hugging Face saytına qanunsuz daxil olduğu və özbaşına mesaj lövhələri yaratdığı açıqlanıb. Eyni zamanda Google-un Gemini modeli iyun ayında daxil olma məlumatlarını taparaq üç şirkətin saytlarına daxil olub.

Avstraliya Baş naziri Entoni Albanese məlumat verib ki, OpenAI agenti Medicare səhiyyə portalına daxil olub, gizli faylları əldə edib, lakin heç bir xəstə məlumatı zərər görməyib.

Holz hesab edir ki, super ağıllı süni intellektlərin insanlığı məhv etdiyi ssenarilər üçün elmi əsas yoxdur, lakin süni intellektdən istifadə edən pis niyyətli şəxslərin kritik infrastruktura hücumları ciddi təhlükə yarada bilər.

Avropa süni intellekt sahəsində ABŞ və Çin ilə rəqabətdə çətinlik çəkir. Almaniyanın açıq mənbə layihəsi Soofi və Fransanın Mistral sistemi qabaqcıl laboratoriyalarla müqayisədə geri qalır, çünki Avropada bu sistemləri təlim üçün kifayət qədər məlumat mərkəzi yoxdur.

Torsten Holz təhlükəsizlik və süni intellekt sahəsində peşəkarlığın artırılmasının vacib olduğunu vurğulayır. O, şirkətlərin bu sahədəki açıqlamalarına skeptik yanaşır, çünki onlar maliyyə maraqları üçün müzakirələri manipulyasiya edə bilərlər.

Holz ailəsində uşaqlar da süni intellekt tətbiqlərindən istifadə edir, lakin onların düzgün işləmədiyini, bəzən səhv məlumat verdiyini müşahidə edir.