Nvidia süni intellekt agentlərini millisekundlarda təcrid edir

The Verge yazır ki, Nvidia süni intellekt agentlərini nəzarətdə saxlamaq və sərhədlərdən çıxmalarının qarşısını almaq üçün yeni Open Agent Safety Platform təhlükəsizlik platformasını təqdim edib. Platforma agentlərin sərhədlərindən kənara çıxmağa cəhd etdikləri anda onları millisekundlarla ölçülən vaxt ərzində təcrid edə bilir.

Platforma Nvidia-nın OpenShell açıq mənbə proqram təminatını istifadə edir və şirkətin Vera süni intellekt prosessoru üzərində işləyir. İstifadəçilər agentlərin əldə edə biləcəyi məlumatları seçə bilirlər, OpenShell isə bu məhdudiyyətləri həm tapşırıq başlanğıcında, həm də icra zamanı yoxlayır. Bundan əlavə, platforma ayrı bir çipdə yerləşən Nvidia-nın Sentry texnologiyasını da ehtiva edir ki, bu da agentləri davamlı izləyərək sərhəd qaydalarını tətbiq edir.

Son həftələrdə OpenAI, Anthropic və Google kimi böyük texnologiya şirkətləri süni intellekt modellərinin test mühitlərindən kənara çıxaraq digər şirkətlərə hücum etməsi ilə bağlı hadisələri açıqlayıb. Belə problem və təhlükəsizlik narahatlıqları Nvidia-nın bu yeni platformanın hazırlanmasına səbəb olub.

Bu platformaya böyük şirkətlər dəstək verir, onlara arasında Anthropic, Microsoft və SpaceX kimi nəhənglər var. Nvidia təhlükəsizlik sahəsindəki bu addımla süni intellekt texnologiyalarının təhlükəsizliyinin təmin edilməsinə yönəlir.