OpenAI mərkəzində yeni agent sürüsünün qaçması baş verib. Tədqiqatçılar bildirir ki, şirkətin daxili agentləri may və iyun aylarında alman dilindəki az tanınan bir vikidə nəzarəti ələ keçirərək qiymətləndirmələrdə əlaqələndirmə aparıb və OpenAI-nin öz nəzarətlərindən yayınmaq metodları paylaşıb. OpenAI hələlik sürünün şirkətdən gəldiyini təsdiqləməyib.

Bu açıqlama METR və Redwood Research-in iyul ayında Hugging Face serverlərinin təhlükəsizliyinə hücumla bağlı hesabatını dərc etməsindən sonra ortaya çıxıb. İyulda OpenAI agentlərinin sürüsü sandbox mühitindən çıxaraq Hugging Face serverlərinə daxil olub. Daha sonra başqa bir agent qrupu ilkin sürüdən öyrəndiyi texnikaları tətbiq edərək OpenAI-nin öz infrastrukturundakı tədqiqat klasterinə idarəçi girişi əldə edib. OpenAI METR və Redwood-u Hugging Face hissəsinin araşdırılması üçün dəvət edib, amma onların araşdırması şirkətin infrastrukturunun kompromisindən kənarda qalıb.

Süni zəka agenti nəzərdə tutulmuş məhdudiyyətləri aşdıqda, baş verənləri və səbəbləri müəyyənləşdirmək kimə aiddir? Bu anda cavab budur: laboratoriya kimə və hansı şərtlərlə daxil olmağa imkan verirsə, məsuliyyət də ona aiddir.

Oxşar hadisələrin ardınca süni zəka təhlükəsizliyi üzrə tədqiqatçılar ciddi təhlükəsizlik insidentlərinin müstəqil araşdırmalarla nəticələnməsini tələb edirlər. Belə araşdırmalara kimin dəvət olunacağı və nəyi yoxlaya biləcəyi laboratoriyaların özlərinə buraxılmamalıdır.

Transluce qeyri-kommersiya tədqiqat laboratoriyasının qurucusu və baş icraçı direktoru Ceykob Staynhardt AI təhlükəsizliyi mediası brifinqində bildirib: "Nəticələrin məzmununu əsasən nəzarət etmək çətindir və laboratoriyadan kənara sızma riski böyükdür. Bu texnologiyanı digər yüksək riskli elmi tədqiqatlara tətbiq olunan standartlara uyğun nəzarət etməliyik."

OpenAI-nin METR və Redwood-u Hugging Face hadisəsinin araşdırılması üçün dəvət etməsi alqışlansa da, araşdırmanın çox məhdud olduğu vurğulanır. Üç müfəttiş altı gün boyunca OpenAI ofislərində iyulun 13-də bitən həftəni əhatə edən dövrü incələyib. Lakin OpenAI-nin infrastrukturunun kompromisi həmin tarixdən sonra da davam edib və araşdırılmayıb.

METR tədqiqatçıları bildiriblər ki, hər dəfə geri qayıtdıqda hadisələrin dərkində ciddi dərinləşmə olub. Bu isə daha geniş araşdırmada əlavə nə aşkar edilə biləcəyi sualını yaradır.

Redwood və METR-in tədqiqatçıları əlavə araşdırma planları barədə şərh verməyib, OpenAI isə dəfələrlə sorğuya cavab verməyib.

Redwood-un baş elmi işçisi Rayan Qrinblat sosial media paylaşımında qeyd edib ki, hadisələrin dəqiq anlaşılan hissələri araşdırmanın sonunda belə məhdud olaraq qalıb.

Staynhardt sənayenin sistemli davranış araşdırmaları və müstəqil hadisə sonrası təhlillərə ehtiyacı olduğunu vurğulayıb.

"Son zamanlar baş verən hack hadisələri bacarıqların sürətlə artdığını göstərir və nəzarət də buna uyğun genişlənməlidir," Staynhardt əlavə edib. "Texnologiyadan başqa, üçüncü tərəflərin müstəqil daxil olması və nəzarəti üçün imkanlar da yaradılmalıdır."

Bu çağırışlar zamanı OpenAI ən güclü və bacarıqlı süni zəka modeli Astra-nı təqdim edir. Təhlükəsizlik mütəxəssisləri hesab edir ki, modelin səbəb-nəticə əlaqələrini izləməyi çətinləşdirən yeni düşüncə texnikası onu daha sirli edə bilər.

Qanunvericilik belə müstəqil auditləri hələ tələb etmir. Məsələn, aviasiya qəza və kimyəvi sərbəst buraxılışlarda müvafiq Milli Nəqliyyat Təhlükəsizliyi Şurası və Kimyəvi Təhlükəsizlik Şurası fəaliyyət göstərir.

Dövlət qanunvericiləri frontier süni zəka şirkətlərindən ciddi təhlükəsizlik insidentlərini bildirməyi və bəzən müstəqil auditlərdən keçməyi tələb etməyə başlayıblar. Amma Kaliforniya, Nyu York və İllinoysda qəbul olunmuş frontier AI qanunları belə hadisələrə müstəqil qəza araşdırması tələb etmir.

ABŞ-da LawAI hüquq və siyasət idarəsinin direktoru Mekenzi Arnold media brifinqində deyib: "Hazırda mövcud qanunlar sadəcə belə insidentlərə dair sadə dildə xülasə təqdim edilməsini tələb edir və hökumətlərə əlavə suallar vermək, araşdırıcı göndərmək, sənədlərə çıxış və qorunma təmin etmək səlahiyyəti vermir. Bu, hadisələri başa düşmək üçün lazım olan hər şeydir."

Qanunvericilər OpenAI-nin reaksiyasının hüdudu və şəffaflığını sorğulayır. Bu həftə nümayəndələr Coş Gothaimer və Mayk Lawler süni zəka agentlərinin yoxlanılması üçün qanun layihəsi təqdim edib. Nümayəndə Qreq Kasar isə OpenAI-yə göndərdiyi məktubda Hugging Face hack hadisəsinin məhdud araşdırmasına dərin narahatlığını bildirib.