Süni intellekt internetin kövrək infrastrukturunu ifşa edir

Bu həftə yayılan xəbərdən məlum oldu ki, açıq mənbə PHP proqramlaşdırma dilində aşkar edilən zəifliklər üzündən sayt sahibləri dərhal saytlarını yeniləməli, bacarmayıbsa, təhlükəsizlik üçün saytlarını söndürməlidirlər.

TechCrunch-ın Equity podkastının bu həftəlik buraxılışında Kirsten Korosec, Sean O’Kane və mən PHP-ocalypse hadisəsinin əhəmiyyətini və gələcəkdə oxşar hallar yaşanıb-yaşanmayacağını müzakirə etdik.

Sean bu vəziyyəti "həqiqi həqiqət anı" adlandırdı və dedi ki, internetin əsas strukturunda hər şey qeyri-sabitdir, sadəcə ümid və zəif qüvvələrlə bir yerdə saxlanılır. Bu gün iri dil modelləri və süni intellekt agentlərinin yayılması həmin zəifliklərin tapılmasını asanlaşdıracaq. Ancaq bu zəiflikləri insanlar aşkar edib, süni intellekt yox.

Kirsten isə bankların istismara məruz qala biləcəyini və məlumatların məxfiliyi ilə bağlı problemlərin bu məsələnin çox daha böyük olduğunu göstərdiyini və gələcəkdə daha ciddi təhlükələr görmək ehtimalı olduğunu söylədi.

Müzakirəmizin qısaldılmış və aydınlaşdırılmış formasını oxumağa davam edin.

Sean O’Kane: Bu həftə internet bir çox cəhətdən çökür kimi görünür.

Soyuq başlayanlar üçün belə izah edirəm: Son 10 ildə internetdə əhəmiyyətli problemlər bir neçə dəfə yaranıb. Bir adam kiçik bir proqram kodunda nasazlığı taparaq internetin tam çökməsinin qarşısını alıb.

İndi buna milyardlarla dəfə çox insan əlavə edilib, əllərində çox inkişaf etmiş proqramlar və onlara tapşırıq verən süni intellekt agentləri var.

Bu həftə iki hal müşahidə edilir. Google və OpenAI kimi şirkətlər zəiflikləri tapır, o cümlədən PHP-də olan zəiflik. Digərləri isə bu zəifliklərdən istifadə edərək saytları sındırmağa çalışır. Buna görə hökumətlər saytları bağlayır, məşhur saytlar isə müvəqqəti ətraflı təmirə dayandırılır.

Bu, internetin açıq mənbə texnologiyalarına, xüsusən PHP-yə çox bağlılığının riskini göstərir. İnternet hələ də zəif vasitələrlə möhkəmləndirilib.

Anthony Ha: Məni təəccübləndirən bir şey var, bu zəiflik yeni deyil. PHP-də onlarca ildir mövcuddur.

PHP çox sayda vebsaytın əsasını təşkil edən proqramlaşdırma dilidir. Bu zəifliklər illərlə olub, amma bilinmirdi. Böyük süni intellekt şirkətləri bu zəiflikləri irəliləmiş LLM-lərdən istifadə edərək tapdı. Əslində bunları insan tədqiqatçılar aşkar edib, amma süni intellekt onlardan istifadə edib.

Yekun qərar budur ki, bu zəifliyi düzəltməliyik. Əgər biz tapsaq, başqaları da tapacaq. Amma bu həll üçün zəifliyin açıqlanması zəruridir və buna görə çox təcili düzəliş etmək və mümkün olmayan halda saytları bağlamaq lazımdır, çünki zəiflik çox təhlükəlidir.

Kirsten Korosec: Çox adam bilməz ki, onların saytlarında PHP proqramlaşdırma dili var. Bu, onilliklərdən bəri istifadə olunan açıq mənbədir.

Hypertext Preprocessor, yəni PHP, WordPress, Drupal kimi platformaların əsas hissəsidir və dünya saytlarının təxminən 70 faizində istifadə olunur. Bu milyonlarla sayt deməkdir. Bu, məsələnin miqyasını göstərir. Mən düşünürəm ki, bu yalnız başlanğıcdır, başqa köhnə proqramlarda da belə zəifliklər var və istismar ediləcək.

404 Media belə bir məsələni də vurğulayıb: linklərin qırılması (link rot). Saytlar bağlanır və çoxlu keçmiş məlumatları itiririk. Sadəcə düzəliş etmək əvəzinə, saytları bağlamaq qərarı verilir.

Sean: Anthony yaxşı məqam qaldırdı. İnsanlar açıqlamadakı gecikmədən, xüsusilə OpenAI-nin məsələyə yanaşmasından narazıdır.

Eyni zamanda, bəzi şəxslər məlumatların yayılma qadağasını pozaraq kiberhücum yarışı başlatdı. Cloudflare baş direktoru Matthew Prince PHP2Shell hücumlarının milyonlarla cəhdini gördüyünü açıqlayıb.

Bu kimi zəifliklərdə təhlükəsizlik dünyasında normal praktika budur ki, problem olan şirkətlə əlaqə saxlanır və gizlilik saxlanılır. Amma burada internetin əsas hissəsindən söhbət gedir, hər kəslə ayrı-ayrı danışmaq mümkün deyil.

Qoyun düşünək, əgər kifayət qədər süni intellekt agenti mövcud olsa, internetdəki hər saytı idarə edən şəxslərə mesaj göndərmək istəsəydik, bu mümkündür. Bu səbəbdən, köhnə dövrdə olan idarəçilərin mövcudluğu bu problemi bir qədər aradan qaldıra bilərdi. Amma indi bunun sadə yolu yoxdur.

Kirsten: Matthew Prince-in sosial media yazısı çox təsirli və qorxuncdur. Amazon da blog yazısı paylaşıb. Amazon geniş imkan və komandaya sahib olduğundan belə halları izləyə bilir. Onlar süni vəzdə hücumlara rast gəlib, hətta zəiflik rəsmi elan edilməzdən əvvəl belə cəhdlər olub.

Amazon bu sahədə yaxşı hazırdır, amma çoxlu sayda sayt və mümkün hökumət portalları buna hazır deyil. Məncə, bu ən qorxulu tərəfdir.

Həmçinin, bəzi süni intellekt proqramçıları bu vəziyyəti "hazırlıq sonu" səviyyəsinə gətirə bilər, çünki bankların istismarı, məlumatların sızıntısı mövzuları var və məsələ çox böyükdür. Mən maraqla gözləyirəm, insanların reaksiyası necə olacaq və bu vəziyyətdən yeni təhlükəsizlik startapları yaranıb-yaranmayacağını izləyirəm.