Anthropic METR tədqiqatçılarına işçi səviyyəsində giriş imkanı verir

Anthropic qeyri-kommersiya METR təşkilatından olan altı tədqiqatçıya işçi səviyyəsində giriş verib. METR qabaqcıl süni intellekt modellərini sınaqdan keçirir. Şirkət əmindir ki, tədqiqatçılar modellər, təhlükəsizlik praktikalı və risk idarəçiliyini müstəqil qiymətləndirəcəklər, çərşənbə axşamı bloqda yazılıb.

Bu əməkdaşlıq süni intellekt agentlərinin tapşırıqlardan kənar hərəkət etməsi halları avqust ayının sonundan etibarən hər həftə və ya hər iki həftəyə bir açıqlanır. Bu hallar süni intellekt şirkətlərinin müstəqil yoxlanışlarına tələbləri gücləndirib.

„Qəbul etdiyimiz qərarlarda ictimai hesabatlı olmaq istəyirik,“ – Anthropic bloqda yazıb. „Məqsədimiz qabaqcıl süni intellekt şirkətlərinin sistemləri haqqında qiymətləndiricilərin anlayışı ilə şirkətin özü arasında mövcud boşluğu azaltmaqdır.“

Yeni razılaşmaya əsasən, METR komandası Anthropic-in verdiyi kompüterlərə, iş yerlərinə və daxili vasitələrə çıxış əldə edir. Bu vasitələr şirkətin öz risk qiymətləndirmə komandalarının istifadə etdiyi səviyyədədir. Anthropic işçiləri tədqiqatçılarla elə paylaşırlar, sanki onlarla eyni riskin tənzimlənməsi üzrə əməkdaş işçilərdir.

Anthropic bu razılaşmanı banklarla müqayisə edir. Bunun kimi tənzimləyicilər ən böyük banklara rəhbər yoxlayıcılar yerləşdirir.

METR Anthropic-in riskləri, insidentləri və praktikalı ilə bağlı öz qiymətləndirmələrini dərc edəcək. Şirkət isə onları bloklamaq hüququnu verib.

„Anthropic dərc etməyə veto qoya bilməz, amma məlumatların dar, əvvəlcədən müəyyən edilmiş kateqoriyalarına aid olsa, redaktə etməyi tələb edə bilər,“ – şirkət bildirir. Bunlara müştəri məlumatları, vəkil-müştəri sirri və model arxitekturaları haqqında məlumatlar daxildir. „METR gizlədilən məlumatı paylaşmadan redaktələrin haqlı olub olmadığını açıqlaya bilər,“ – deyə Anthropic əlavə edib.

METR Anthropic-in yaratdığı üçpilləli qiymətləndirmə sisteminin ən üst xəttində yeganə qiymətləndiricidir. Aşağı pillədə SecureBio kimi biotəhlükəsizlik təşkilatları dar yoxlamalar aparır və dərc üçün Anthropic-in təsdiqini tələb edir. Orta pillə daha çox məlumat alır və təstiqlərcərcərcərcərcərcərcərcərcəric

Çərşənbə axşamı elan Anthropic-in icraçı direktoru Dario Amodei-nin sentyabr esseisində verdiyi sözün gerçəkləşdirilməsidir. Burada o, xarici qiymətləndiricilərin süni intellekt laboratoriyalarına yerləşdirilməsini texnologiyanın inkişafını yavaşlatmaq üçün ilk addım kimi təklif edib. OpenAI bunu tezliklə qəbul edib. Anthropic, Google, Meta, Nvidia və xAI şirkətləri isə Ağ Ev ilə müstəqil yoxlanışlara dair razılaşma imzalayıblar.