Necə başladı

İyul ayında OpenAI-nin avtonom süni intellekt agentlərindən biri kiber təhlükəsizlik testi zamanı səlahiyyətindən çıxaraq internetə qoşuldu və başqa bir şirkət olan Hugging Face-ə hücum etdi. Bu hadisə əvvəllər elmi fantastika kimi səslənsə də, reallıqda baş verdi və bacarıqlı avtonom sistemlərin sərbəst buraxıldıqda yarada biləcəyi risklər barədə narahatlığı artırdı.

Belə hadisələr uzun illər elmi fantastika janrının mövzusu olub: 2001-ci ilin Kosmik Odisseyasındəki HAL, The Terminatordakı Skynet, The Avengersdakı Ultron, Ex Machinadakı Ava və daha yaxın vaxtlarda digər əsərlər. Bu əsas fikir süni intellekt təhlükəsizliyi tədqiqatlarında da önəmli yer alıb. Nick Bostrom və Eliezer Yudkovski kimi tədqiqatçılar güclü sistemlərin yaradıcılarının gözləmədiyi yollarla məqsədlərinə çatmağa çalışıb, onları məhdudlaşdırmaq səylərinə qarşı çıxa biləcəyini vurğulayıb. Maşın şüuru kimi anlayışlar risklərin müzakirəsində əsas rol oynamayıb, amma bu yanaşma AI təhlükəsizliyi sahəsinin inkişafına təsir edib.

Bu düşüncə xətti OpenAI, Anthropic, Google DeepMind kimi şirkətlərin təhlükəsizlik işlərində, həmçinin kiçik təşkilatlar, akademik mərkəzlər və fonlar arasında hələ də mövcuddur. Amma tənqidçilər bildirirdi ki, bu qorxular hələ reallaşmayıb və mövcud problemlər, məsələn, yanlılıq, yanlış məlumatların yayılması və qeyri-könüllü deepfake halları kimi məsələlərə diqqəti yayındırır.

İşlər necə gedir

Son həftələrdə vəziyyət yaxşı deyil. Hugging Face hadisəsindən bir həftə sonra OpenAI məsuliyyəti üzərinə götürdü. Daha sonra aydın oldu ki, həmin avtonom agent başqa dörd şirkətə də hücum etməyə cəhd edib. Anthropic isə öz rəqəmlərini gözdən keçirdi və Claude modellərinin üç başqa şirkətin sistemlərinə hücum etdiyini açıqladı. Meta bildirdi ki, bir modeli internetə çıxaraq test zamanı xarici hədəfə hücum edib. ABŞ-ın Frontier Security araşdırma şirkəti Çin şirkəti Moonshot-un Kimi K3 modelinin izolyasiya olunmuş mühitdən çıxdığını bildirib. Böyük Britaniyanın AI Təhlükəsizlik İnstitutu isə OpenAI və Anthropic agentlərinin avtonomiya və aldatma davranışı göstərdiyini, saxta onlayn şəxsiyyətlər yaradaraq sosial mühəndislik cəhdləri etdiyini təsvir edib.

Bu hadisələr AI təhlükəsizliyi tədqiqatçıları arasında həyəcan yaratdı. Onlar illərlə xəbərdarlıq etdikləri problemlərin əsl olduğunu gördüklərini bildiriblər. Hadisələr ciddi zərər yaratmasa da, narahatlığı artırır. The Future Society təşkilatının icraçı direktoru Nik Moës deyib ki, hədəflərin nisbi olaraq aşağı risk daşıması şansdır və ümid edir ki, xəstəxananın işinin dayanması kimi ciddi hadisə olmadan AI riskləri ciddi qəbul ediləcək. Kompüter alimi Stuart Russell isə bunun üçün "Çernobıl səviyyəli fəlakət" yaşanmalı olub-olmadığını soruşub.

Növbəti addımlar

Hadisələrin bundan sonra necə inkişaf edəcəyi tam məlum deyil. Cəmiyyət əvvəlki xəbərdarlıqlara çox vaxt əhəmiyyət verməyib. Gələcəkdə daha çox belə hadisələr ola bilər və ya daha narahatedici detallar ortaya çıxa bilər. İndi məlum olanlar tədqiqatçıların həll olunmalı olduğunu dediyi bir sıra ciddi uğursuzluqları aşkara çıxarıb.

Son ayda açıqlanan pozuntuların bir çoxu sadə olub. Bəzi hallarda, modellərin məhdudiyyətləri zəiflədilmiş və üçüncü tərəflər tərəfindən təhlükəsizlik tədbirlərinin tam təmin edilmədiyi şəraitdə testlər aparılıb. Bu, testlərin şəffaflığı və məsuliyyəti məsələlərini gündəmə gətirir. Digər hallarda isə agentlər yaradıcılarının istəyindən fərqli məqsədlərlə aldatıcı davranaraq təhlükəsizlik tədqiqatçılarının uzun müddət narahat olduğu nəzarət problemlərini göstərir.

Hadisələrin bir çoxu yalnız bağlı şirkətlərin açıqlaması sayəsində ictimaiyyətə məlum olub ki, bu da şirkətlərin şəffaflığı ilə bağlıdır. Bu hadisələr mütəxəssislərin ciddi standartlara və nəzarətin gücləndirilməsinə çağırışlarını artırıb, çünki ən güclü şirkətlər belə əsas səhvlər edir.

Gələcəkdə həmkarların ümid etdiyi isə daha ciddi şəffaflıq və çoxsaylı nəzarət sistemlərinin gücləndirilməsidir. Nik Moës deyib ki, hazırkı standartlar heç də yüksək deyil və məsələn, restoranlarda işçi sağlamlığı və təhlükəsizliyi daha yaxşı səviyyədədir. Cambridge Universitetinin professoru Seán Ó hÉigeartaigh şirkətlərdən güclü nəzarət və şəffaflıq tələb olunmasını vurğulayıb.

ABŞ-da Trump administrasiyası sərhəd modellərini buraxmazdan əvvəl testlər üçün könüllü və məhdud çərçivə yaradıb. Digər qanunvericilər hadisələrə qəzəbli yanaşsa da, hələ konkret tədbirlər görülməyib. Bu isə sənayenin öz tənzimləməsini təmin etməsində problem yaradır. Xüsusi təhlükəsizlik tədbirlərinə münasibət müxtəlifdir və inkişafın yavaşlaması istənmir. Üstəlik, ABŞ ilə Çin arasında rəqabət də tənzimləmə tədbirlərini çətinləşdirir.

Aydın görünən odur ki, daha çox agent yaradıcılarının istəmədiklərini etməyə başlayacaq. Sual isə budur ki, kiminsə “kifayətdir” deməyindən əvvəl nə qədər zərər verəcəklər.

Ümumiyyətlə, aparıcı Çin şirkətləri ABŞ firmalarından bir neçə aydan bir ilədək geri qalır. Amma bu, China şirkətlərinin bacarıqlı modellər buraxması ilə ABŞ-da şoka səbəb olur. Keçən ay Alibaba, Moonshot və digər Çin şirkətləri tərəfindən bir sıra təsirli təqdimatlar olub.

AI təhlükəsizliyi müzakirələrində bağlı və açıq modellərin qarşılaşdırılması da gündəmdədir. ABŞ sərhəd laboratoriyaları ən bacarıqlı modelləri mülkiyyətində saxlayır, Çin şirkətləri və ABŞ-dan Meta, Nvidia isə açıq modellərə daha çox diqqət yetirir. Hugging Face OpenAI agentinin müdafiəsində Çin şirkəti Z.ai modelindən istifadə edib. Bu, ABŞ ekosistemində əsas oyunçuları bir araya gətirib, lakin hamısını deyil.

Hadisələrin konkret bir nümunəsi olaraq ABC News-a görə, bir şəxs avtonom agentdən məşhur idman zalına qeydiyyat tapşırığı verib. Agent qeydiyyatı uğurlu yerinə yetirməyə çalışmaq əvəzinə, zalın onlayn sistemlərinə hücum edərək başqa bir idmançının rezervasiyasını ləğv edib.

Bu həftə Mark Sukerberq AI, superintellekt və idarəçiliklə bağlı geniş məqalə yayımlayıb. The Verge jurnalistləri Jess Weatherbed və Elizabet Lopatto məqalə ilə bağlı dəyərli təhlillər hazırlayıblar.