Beynəlxalq səviyyədə ölümlü avtonom sistemlərə diqqət ayıran Bəzi Konvensional Silahlar Konvensiyası hər il Cenevrədə iki dəfə keçirilir. 2017-ci ilin noyabrında bu iclasa qatılan Branka Marijan beş günlük sessiyaların çox vaxt hipotetik mövzular ətrafında, yəni döyüşlərin öldürücü robotlarla aparıldığı dünyanı müzakirə etdiyini düşünürdü. Ancaq o il vəziyyət tam fərqli idi. Gələcək kimi görünən bu ssenari birdən gerçəkləşmək üzrə çox yaxın görünürdü.

Toplantının ilk günü iştirakçılar "Future of Life Institute" tərəfindən hazırlanmış Slaughterbots adlı qısa filmlə tanış oldular. Filmdə AI ilə işləyən və insan müdaxiləsi olmadan dəqiq hücumlar edən dron təqdim edilirdi. Film, "Silahlar adamları öldürmür, adamlar öldürür" deyiminə qarşı çıxaraq göstərirdi ki, insanlar emosionaldır, əmrə tabe olmur və səhv atəş açır, buna görə də silahların qərar verməsinə imkan vermək lazımdır. Marijan xatırlayır ki, bu təqdimatdan sonra otaqdakı hava dəyişdi. Ən qorxunc məqam filmin mövzusu yox, Pentaqonun belə texnologiya üzərində işləməsi idi.

2017-ci ildə ABŞ Müdafiə Nazirliyinin "Project Maven" adlanan AI təşəbbüsü həyata keçirilirdi; bu layihə dron müşahidə görüntülərini analiz etmək üçün AI istifadə edirdi. Həmin vaxt "Google" şirkəti bu layihəyə qoşuldu. Marijan bildirir ki, danışılan sistemlər gələcək texnologiya yox, artıq mövcud olan və müəyyən avtonom əməliyyatlar apara bilən platformalardı. Onlar sensor məlumatlarına əsaslanaraq hədəfləri seçmək və onlarla qarşılıqlı əlaqədə olmaq qabiliyyətinə malik idilər.

Dünyada artıq insan tərəfindən idarə olunan dron müharibələri mövcud idi, lakin indi gələcəkdə insan faktının tamamilə aradan qalxa biləcəyi barədə düşünülürdü. Marijan vurğulayır ki, narahatlıq "Terminator" tipli robotlar deyil, avtonomiyanın hərbi əməliyyatlarda genişlənməsidir.

ABŞ ordusu uzun illər AI-nin inkişafını dəstəkləyib və əksinə, AI müharibəni dəyişdirib. 2000-ci illərdə AI dünya üzrə toplanmış böyük həcmdə məlumatı təhlil edərək müşahidə sahəsində inqilab etdi. 2010-cu illərin sonlarında isə inkişaf etmiş üz tanıma və digər mürəkkəb süni görmə sistemləri yarandı.

Anthropic şirkəti ilə Pentaqon arasında mübahisə bu sistemlərin qüdrətinin artmasına diqqət çəkdi. 2026-cı ilin yanvarında müdafiə naziri Pit Heqset Pentaqonun AI ilə bağlı müqavilələrinin yenidən baxılmasını tələb etdi. Yenidən tənzimlənən şərtlər altında Pentaqon şirkətlərin texnologiyasından "hər hansı qanuni istifadədə" istifadə edə bilməli oldu. Bu isə Anthropic tərəfindən qəbul edilmədi.

Anthropic-in texnologiyasının istifadəsinə məhdudiyyət qoyması qeyri-adi haldır, çünki bu, adətən hökumət tərəfindən yaradılan və ya ənənəvi hərbi təchizatçılar tərəfindən təmin olunan texnologiyalardan fərqlənir. Ekspertlər bildirirlər ki, Silikon Vadisində belə, AI-nin istifadəsinə dair məhdudiyyətlərin harada qoyulacağı barədə geniş fikir ayrılığı mövcuddur.

Hazırda bu mübahisə davam edir və hətta ABŞ prezidenti Donald Tramp bu şirkətin Claude sisteminin hökumət qurumlarında istifadəsini qadağan edib. Lakin münasibətlər bəzən yumşalır, məsələn, Anthropic-in kibertəhlükəsizlik modeli Mythos-un təqdimatı kimi. Şirkət mövzu ilə bağlı şərh verməyib.

Bu müzakirələr sayəsində "tam avtonom silahlar" anlayışı ictimaiyyətə yeni şəkildə təqdim olunub. Lakin AI-nin ordu əməliyyatlarındakı təsiri bir neçə onillikdir dayanmadan artır.

DOD Direktiv 3000.09, ölümcül avtonom silahların istifadəsini tənzimləyən azsaylı siyasətlərdən biridir. 2012-ci ildə hazırlanmış bu sənəd həmin silahları belə təsvir edir: "İşə düşdükdən sonra operatorun müdaxiləsi olmadan hədəfləri seçə və onlarla qarşılaşa bilən sistem". Direktiv həm tam avtonom, həm də yarı avtonom silahların insanlara gücdən istifadə üzərində uyğun səviyyədə qərarvermə imkanını təmin etməsini tələb edir.

Belə sistemlər arasında atəşdən müdafiə üçün nəzərdə tutulan "Phalanx CIWS" kimi pilot proqramlar onilliklər əvvəl ortaya çıxıb. Bu tip sistem insan müdaxiləsi olmadan saniyələrdə reaksiya verməlidir, ona görə də əslində hədəfi seçib məhv edə bilir. Lakin ekspertlər bildirirlər ki, belə sistemlər müdafiə xarakterlidir və hücum qərarları verməsindən fərqlənir.

Hərbi texnologiyanın müdafiə və hücum funksiyalarının sərhədləri bəzən aydın deyil. Məsələn, nüvə silosu müdafiə məqsədilə istifadə olunsa da, ona hücum silahı da demək olar. Purdue Universitetindən professor Sorin Adam Matei birbaşa deyir ki, "müharibəni yalnız müdafiə ilə aparmaq mümkün deyil".