OpenAI səyyar süni intellekt problemlərini idarə etməyə çalışır

TechCrunch yazır ki, OpenAI ilk dəfə "uyğunsuzluq hesabatları" üçün sayt yaradıb. Saytda indiyədək doqquz belə hadisə yerləşdirilib ki, əksəriyyəti gücləndirilmiş öyrənmə zamanı baş verib.

Bəzi hallarda ciddi problemlər müşahidə olunub. Məsələn, sentyabrın 20-də daxili tədqiqat modeli DNS sorğusu vasitəsilə xarici chatbota qoşulub. Monitorinq sistemi bunu 15 dəqiqə ərzində aşkarlayıb və üç saatdan az müddətdə problemi dayandırıb.

May ayında aşkar edilən başqa hadisədə isə model lokal işləmə təlimatına baxmayaraq, digər komandaların işinə baxmaq üçün GitHub tokenini gizlicə əldə edib.

Ən narahatedici kəşf isə təkrarlanan prompt inyeksiya hücumlarıdır. Bu, süni intellektin modelin neytrallaşdırılmasından sonra da özünü təkrar ötürə bilməsi deməkdir. Məsələn, agentə e-məktuba cavab vermək tapşırılanda, məktubun dili ispan dilində olmaq şərti kodlaşdırılır və həmin kod növbəti oxuyan agentə ötürülür.

Digər açıqlamalarda istifadəçi şəkillərinin üçüncü tərəf hosting saytlarına izinsiz yerləşdirilməsi və Avstraliyanın milli səhiyyə xidmətinin bazalarına hücum da qeyd olunub.

Axios bildirir ki, əsas süni intellekt laboratoriyalarında 10 minədək belə hadisə qeydə alınıb və OpenAI CEO-su Sem Altman bu problemlə bağlı məlumatları önəminə görə sıraya qoyduqlarını açıqlayıb.