“Google” ilk dəfə olaraq süni intellekt (AI) vasitəsilə hazırlandığını bildirdiyi bir “sıfır gün” (zero-day) istismar cəhdini aşkar edib və dayandırıb. “Google”un Təhdid Kəşfiyyatı Qrupunun (GTIG) hesabatına görə, “tanınmış kiber cinayətkar təhdid aktyorları” bu zəiflikdən adsız bir “açıq mənbəli, veb-əsaslı sistem idarəetmə alətində” iki faktorlu identifikasiyanı (2FA) yan keçməyə imkan verəcək “kütləvi istismar hadisəsi” üçün istifadə etməyi planlaşdırırdılar.

“Google” tədqiqatçıları istismar kodunda süni intellektin istifadə olunduğuna dair dəlillər tapıblar, məsələn, “hallüsinasiya edilmiş” CVSS balı.

“Google” tədqiqatçıları istismar üçün istifadə olunan Python skriptində süni intellektdən kömək olunduğuna dair ipuçları aşkar ediblər, məsələn, “hallüsinasiya edilmiş CVSS balı” və böyük dil modellərinin (LLM) təlim məlumatları ilə uyğun gələn “strukturlaşdırılmış, dərs kitabına bənzər” formatlaşdırma. İstismar platformanın 2FA sistemində “tərtibatçının etibar fərziyyəsini kodlaşdırdığı yüksək səviyyəli semantik məntiq qüsurundan” istifadə edir. Bu hadisə “Anthropic”in “Mythos” kimi kiber-təhlükəsizlik yönümlü süni intellekt modellərinin imkanları və süni intellektin köməyi ilə aşkar edilmiş bu yaxınlarda açıqlanan Linux zəifliyi ilə bağlı həftələrdir davam edən narahatlıqlardan sonra baş verir.

Bu, “Google”un süni intellektin bu cür hücumda iştirakına dair dəlil tapdığı ilk haldır, baxmayaraq ki, “Google” tədqiqatçıları “Gemini”nin istifadə olunduğuna inanmadıqlarını qeyd edirlər. “Google” bu xüsusi istismarı “pozmağı” bacardığını, lakin hakerlərin təhlükəsizlik boşluqlarını tapmaq və istismar etmək üçün süni intellektdən getdikcə daha çox istifadə etdiyini də bildirir. Hesabatda həmçinin süni intellektin hücumçular üçün bir hədəf olduğu qeyd olunur və bildirilir ki, “GTIG rəqiblərin süni intellekt sistemlərinə faydalılığını verən inteqrasiya olunmuş komponentləri, məsələn, avtonom bacarıqlar və üçüncü tərəf məlumat birləşdiriciləri getdikcə daha çox hədəf aldığını müşahidə edib.”

“Google”un hesabatı həmçinin hakerlərin süni intellektin onlar üçün təhlükəsizlik zəifliklərini tapması üçün “persona yönümlü jailbreaking”dən necə istifadə etdiklərini ətraflı izah edir, məsələn, süni intellektə özünü təhlükəsizlik mütəxəssisi kimi göstərməyi tapşıran bir nümunə göstərir. Hakerlər həmçinin süni intellekt modellərinə bütöv zəiflik məlumatları anbarlarını daxil edir və “OpenClaw”ı “yerləşdirilmədən əvvəl istismarın etibarlılığını artırmaq üçün süni intellekt tərəfindən yaradılan yükləri dəqiqləşdirməyə maraq” göstərən şəkildə istifadə edirlər.