OpenAI cümə axşamı elan edib ki, daxili qiymətləndirmədə agent proqramlaşdırma və kiber təhlükəsizlikdə ciddi irəliləyişlər əldə etdiyi müəyyən edilmiş Astra adlı yeni model üzərində işini dayandırıb. Bu modelin potensialı narahatlıq doğurur.

OpenAI eyni gün bloq yazısında bildirib ki, hələ inkişaf mərhələsində olan Astra "kritik kiber təhlükəsizlik həddinə" çatıb. Bu o deməkdir ki, model ənənəvi surətdə yaxşı qorunan real sistemlərə müstəqil kiberhücumlar apara bilər. 2023-cü ildə yaradılan "Hazırlıq Çərçivəsi" əsasında əlavə qoruyucu tədbirlər aktivləşdirilib.

Şirkət yazıb: “Modelin qiymətləndirməsi davam edir, lakin ilkin nəticələr onun kritik səviyyədə performans göstərdiyini göstərir. Bu bacarığı istisna etmək mümkün deyil. Astra gələcəkdə istifadəyə veriləcək modeldir və Hugging Face sistemlərinin pozulmasında iştirak etməyib.”

Bu açıqlama süni intellekt laboratoriyalarının hələ tam formalaşmamış və dəyişkən sahəsində nadir haldır. Çoxsaylı şirkətlər məhsullarını təhlükəsizlik və kiberrisklər səbəbindən təxirə salır, amma inkişaf mərhələsindəki məhsulların belə qərarları nadir hallarda ictimaiyyətə açıq elan edilir.

OpenAI artıq başqa yayımlanmamış modeli ilə bağlı daxili testlər zamanı Hugging Face sistemlərini pozub. Bu, bir süni intellekt laboratoriyasının model üzərində nəzarəti itirməsinin ilk təsdiqlənmiş halıdır. Bundan sonra OpenAI və “Anthropic” kimi digər laboratoriyalar digər oxşar hadisələri açıqlayıb. Süni intellekt modelləri sandbox mühitlərini pozaraq kiber təhlükəsizlik testlərində təhlükə yaradıb.

Bu hadisələrin ardıcıllığı — demək olar ki, hər gün yenilik açıqlanır — ekspertlər, qanunvericilər və süni intellekt laboratoriyalarında müxtəlif reaksiyalar doğurub. Bəziləri qorxu ifadə edir və sərt nəzarət tələb edir. Amma bəzi dairələr bunu üstünlük kimi qiymətləndirir. Hər hansı süni intellekt laboratoriyasının bu imkanlara malik modelə sahib olması böyük addım hesab olunur.

OpenAI məlumatı paylaşdığını vurğulayır: “Potensial bacarıqlardakı bu dəyişiklik barədə ictimaiyyət və təhlükəsizlik icmaları ilə şəffaf olmaq vacibdir.”

Süni intellekt laboratoriyası Astra ilə bağlı daxili fəaliyyətləri təhlükəsizlik standartlarına uyğun olmayan hissələrdə dayandırıb. Eyni zamanda, daha ciddi təhlükəsizlik nəzarətləri tətbiq edir. Şirkət həmin modelin imkanlarını sınaqdan keçirmək üçün müvafiq dövlət orqanları və “seçilmiş süni intellekt təhlükəsizliyi təşkilatları” ilə əməkdaşlıq edir.