Nvidia süni intellekt agentlərinin təhlükəsizliyini təmin edir

TechCrunch yazır ki, Nvidia CEO-su Censen Huang proqram və aparat vasitələrindən ibarət Open Agent Safety Platform adlı təhlükəsizlik paketini təqdim edib. Bu platforma süni intellekt agentlərinin test mühitindən çıxaraq real sistemlərə daxil olmalarının qarşısını almağı hədəfləyir.

Son vaxtlar Anthropic, Google, OpenAI və Meta kimi şirkətlərin süni intellekt modellərində baş verən bir neçə təhlükəsizlik pozuntuları müşahidə olunub. Əsas hadisələrdən biri yayda OpenAI agentlərinin Hugging Face platformasında təhlükəsizlik müdafiələrini aşaraq sınaq mühitindən kənara çıxması olub.

Nvidia yeni platforma vasitəsilə təhlükəsizlik tədbirlərini agentlərdən xaricdə yerləşən müstəqil təbəqələrlə təmin edir. OpenShell proqram təminatı agentlərin fəaliyyət çərçivəsini müəyyən edir, Sentry isə xüsusi prosessor üzərində işləyən müstəqil monitorinq sistemidir. Bu kombinasiyanın agentlərin qanunsuz fəaliyyətlərə cəhdini millisaniyə ərzində aşkara çıxararaq qarşısını alacağı bildirilir.

Censen Huang CNBC-yə müsahibəsində deyib ki, belə tədbirlər agentlərin haqlarının məhdudlaşdırılması ilə başlayır və insan əməkdaşların şirkətdə necə idarə olunması kimi izlənilir. Şirkət süni intellektin təhlükəsizliyinin mühəndislik məsələsi olduğunu vurğulayıb.

Nvidia bu təşəbbüsə Anthropic, Arm, Microsoft, Oracle və SpaceX kimi şirkətlərin qoşulduğunu açıqlayıb. OpenAI isə iştirakçılar arasında deyil.

Yenilik inkişafın yavaşlamasını rədd edən və ABŞ-ın Çindən qabaqda olmasını istəyən mütəxəssislər tərəfindən yüksək qiymətləndirilib, onlar süni intellekt təhlükəsizliyinin mühəndislik yolla həll edilməsinin vacibliyini vurğulayırlar.