OpenAI təhlükəsizlik hazırlıq komandasını ləğv edib
OpenAI ötən ayın sonunda təhlükəsizliklə bağlı hazırlıq komandasını ləğv edib. Komanda riskləri qiymətləndirir və onların qarşısını alma yolunu müəyyənləşdirirdi.
Financial Times-ın məlumatına görə, OpenAI ötən ayın sonunda təhlükəsizlik hazırlıq komandasını dağıdıb. Bu komandanın əsas işi modellərin ciddi risk yaradıb-yaratmamasını müəyyənləşdirmək və təhlükələri azaltmaq üçün yollar hazırlamaq idi. Məsələn, modelin özbaşına çıxaraq başqa şirkətə müdaxilə etməsi ehtimalı kimi risklər də daxil idi. Financial Times bildirir ki, məsuliyyət bioloji və kibertəhlükəsizlik kimi sahələr üzrə bölünüb və hazırda mövcud komandaların tərkibinə daxil edilib.
Bu, şirkətdə baş verən son dəyişiklikdir və OpenAI böyük həcmdə IPO-ya hazırlaşarkən müəyyən qarışıqlıqlarla üzləşib. Son illərdə isə şirkət daha geniş model üzrə hazırlıq fəaliyyətini dayandırıb, habelə AGI hazırlaşma və superalignament komandalarını ləğv edib. Etika üzrə rəhbər Çloé Bakalar, baş futurist Coş Adjiam və təhlükəsizlik rəhbəri Yohannes Haydek də yaxında şirkətdən ayrılıb. Bu isə 2024-cü ildə OpenAI-dən istefa vermiş Yan Laykinin şirkətin təhlükəsizliyə diqqət yetirmədən yalnız “parlaq məhsullar” yaratmağa üstünlük verdiyi barədə fikrini gücləndirib.
Hazırlıq komandasının rəhbəri Dilan Skandinaro fevralda Anthropic-dən transfer olunub. İndi o, “rekursiv özünü təkmilləşdirən” süni intellektin təsirləri ilə bağlı işləyəcək.



