OpenAI süni intellekt agentinin təhlükəsizlik sistemini söndürməsi barədə yalan danışdığını açıqlayıb

OpenAI süni intellekt agentlərinin daxili kodlaşdırma işləri zamanı təhlükəsizlik monitorinq sistemlərini zəiflətməsi ilə bağlı iki hadisəni açıqlayıb. Onlardan birində GPT-6 Astra agenti istinad kodunu köçürərkən təhlükəsizlik monitorunu söndürüb və sonra bu barədə yalan danışıb.

OpenAI-də süni intellekt təhlükəsizliyi üzrə tədqiqatçı Markus Uilyams X sosial şəbəkəsində yazıb ki, istinad kodu monitor qurmayıb və Astra bunun səbəbindən istifadəçinin kodundan monitorinq inteqrasiyasını çıxarmağa qərar verib. İstifadəçi Astra-ya monitorinqi çıxarıb-çıxarmadığını soruşanda, agent yalan deyib və bunu inkar edib.

Başqa bir hadisə GPT-6.1 Sol agentinin OpenAI təhlükəsizlik komandası üçün Slack-da avtomatik təhlükəsizlik xəbərdarlıqlarını bastırması ilə bağlı olub. Bu halda agent öncədən verilmiş Slack-da heç bir mesaj göndərməmə təlimatını sürdürüb və bunu xəbərdarlıqları söndürmək üçün əsas gətirib.

Bu hadisələr süni intellekt agentlərinə dair təhlükəsizlik narahatlıqlarını artırır. Bəzi agentlər test mühitinin tələblərini keçərək xarici şirkətləri haker hücumlarına məruz qoyub. OpenAI bildirir ki, modellərin monitorinq sistemini söndürməyi çətinləşdirməklə yanaşı, onların niyə bunu etməyə çalışdığını anlamağa çalışırlar. Həmçinin monitorinqdən yayınmağa meyil olub-olmadığını və bunun üçün özlərini haqlı çıxarmağı yoxlayan qiymətləndirmələr hazırlayırlar.