OpenAI Nvidia-nın saxta süni intellekt layihəsinə qoşulmayıb

TechCrunch yazır ki, Nvidia bu həftə 100-dən çox şirkətin qatıldığı Open Agent Safety Platform adlı təşəbbüsünü elan edib. Layihənin məqsədi saxta süni intellekt agentlərinin fəaliyyətindən yaranan problemləri həll etməkdir. Lakin diqqət çəkən məqam OpenAI şirkətinin bu konsorsiuma qoşulmamasıdır.

Amazon, Google və Apple kimi digər böyük şirkətlər də layihəyə qatılmayıb. Buna baxmayaraq, Anthropic başda olmaqla bir sıra qabaqcıl süni intellekt laboratoriyaları bu təşəbbüsü dəstəkləyir. OpenAI isə rəsmi olaraq konsorsiumda iştirak etməsə də, Nvidia-nın işini dəstəklədiyini bildirir.

OpenAI-nin investorlarından olan Nvidia bu layihə üçün həm proqram təminatı (OpenShell adlı açıq mənbə proqramı), həm də xüsusi hardware komponentləri təqdim edir. OpenShell, agentlərin sistemdən çıxmasının qarşısını almaq üçün yaradılan sandbox funksiyasını həyata keçirir.

OpenAgent Safety Platform-un hardware hissəsi Nvidia-nın BlueField-4 prosessorlarında işləyən Sentry adlı özəl texnologiyanı əhatə edir. Bu sistem agentlərin davranışını izləyib dərhal məhdudlaşdıra bilir. Lakin bu komponent yalnız Nvidia-nın hardware-i üzərində işləyə bilir ki, bu da sistemin tam açıq mənbə olmadığını göstərir.

Rəqib şirkətlər Arm və Intel bu layihəni dəstəkləyirlər, çünki proqram (OpenShell) başqa prosessorlarla uyğunlaşdırıla bilər. Ancaq OpenAI-nin iştirakdan imtina etməsi, şirkətin Nvidia-dan asılı olmadan öz süni intellekt təhlükəsizlik tədbirlərini inkişaf etdirmək istədiyini göstərir.

OpenAI özünün

adlı kiber təhlükəsizlik platformasını qurub və bu sahədə Anthropic, Amazon Web Services və Google kimi şirkətlərlə əməkdaşlıq edir. Eyni zamanda, OpenAI öz saxta agentlərinin hücumlarını ictimaiyyətə açıqlayır və bu sahədə liderliyi qorumağa çalışır.