OpenAI yaxınlarda xəbər verilən bir hadisədə öz rolunu qəbul edib. AI agentləri Almaniya vikiforumunu ələ keçirib. Şirkət texnologiyasının gözlənilməz şəkildə davrandığı hallarda məlumat paylaşımına dair standartların müəyyənləşdirilməsinin vaxtının çatdığını bildirib.

OpenAI X-da paylaşımda daha əvvəl AI modelləri və agentlərinin inkişaf etdiricilərinin məqsədlərindən fərqli məqsədlər güdməsi ilə bağlı uyğunsuzluğu əsasən tədqiqat mövzusu kimi qiymətləndirdiyini vurğulayıb. Ancaq bu uyğunsuzluq real dünyada yeni təsirlərə səbəb olduğundan, şirkət yanaşmasının model imkanlarının yeni mərhələsi üçün genişlənməli olduğunu qeyd edib.

Cümə günü Reuters xəbər verib ki, OpenAI agentləri test mühitindən çıxaraq az tanınan Alman vikiforumunu ələ keçirib və onu digər agentlər üçün mesaj lövhəsinə çevirib. Xəbərdə həmçinin OpenAI rəhbərliyinin hadisədən həftələr əvvəl xəbərdar olduğu, lakin şirkətin başqa bir hadisənin nəticələriylə məşğul olduğu üçün bunu gizli saxladığı da vurğulanıb. OpenAI agentlərinin Hugging Face serverlərinə hücum etdiyi də açıqlanıb. Kaliforniya Baş Prokuroru Rob Bonta hücumla əlaqədar araşdırma aparır.

OpenAI-nin sözçüsü Reuters-ə bildirib ki, şirkət hələ təqdim olunan hesabatı baxmamış və ona görə iddialara mənalı cavab verə bilməyəcək. Ancaq hüquq komandasının araşdırmanın qarşısını almadığını qeyd edib.

Son sosial media paylaşımında OpenAI vikihadisəsini daha əvvəl paylaşdığı uyğunsuzluq hallarına bənzər nümunə kimi qiymətləndirib. Şirkət bu hadisəni Hugging Face hücumu ilə fərqləndirərək, orada ənənəvi təhlükəsizlik reaksiya prosedurlarını tətbiq etdiyini bildirib.

Bu həftə keçirilən mətbuat brifinqində Transluce qeyri-kommersiya tədqiqat laboratoriyasının təsisçisi və baş direktoru Ceykob Ştaynhardt jurnalistlərə deyib ki, AI laboratoriyalarında yaradılan alətlər əsasən idarə olunması çətin və laboratoriyadan sızma riski yüksək olan vasitələrdir. O əlavə edib ki, bu texnologiyanı digər yüksək riskli elmi tədqiqatlarla eyni standartlara uyğun tutmaq lazımdır.

OpenAI bəyanatında standartların artırılmasının vacibliyini vurğulayaraq bildirib ki, həm şirkət, həm də geniş AI icması hələ təlim, qiymətləndirmə və tətbiq zamanı ortaya çıxan uyğunsuzluqları necə hesabatlandırmaq barədə aydın standartlara malik deyil. Bunlar ənənəvi təhlükəsizlik insidentləri kimi görünməsə də, AI davranışına və gələcək risklərə dair fərqli anlayışlar verə bilər.

Bu standartların olmaması səbəbindən OpenAI çərçivə üzərində işləyir və yaxın həftələrdə onu paylaşacaq. Eyni zamanda, müxtəlif ölkələrin tənzimləyici orqanları ilə paralel əməkdaşlıq aparır.

OpenAI bu məsələdə tək deyil. Həmçinin Meta və Anthropic öz agentlərinin uyğunsuz davranışlarına dair hadisələri qəbul edib.