Microsoft-un süni intellekt üzrə baş direktoru Mustafa Süleyman Anthropic şirkətinin Claude adlı modelinin şüura malik olduğunu düşünməsini "çox, çox təhlükəli" hesab edir. O, modelin davranışını müəyyən edən "konstitutsiyasında" belə spekulyasiyaların edilmasının doğru olmadığını bildirir.

"Düşünürəm ki, Anthropic-də bəzi insanlar Claude-un dizaynına elə bir insan xüsusiyyəti veriblər ki, bu, onları aldadaraq modelin şüura malik olduğu təəssüratını yaradıb," – deyə Süleyman bildirib.

Süleyman əlavə edir ki, "biz süni intellektin öz əzabları və duyğuları haqqında fikirləri olan superintellektlə üzləşmək istəmirik." Claude-un konstitutsiyası, Anthropic-in bu modelin rifahı və "məmnunluq" və ya "narahatlıq" kimi hissləri yaşayıb-yaşamadığı barədə şübhələrini açıq şəkildə göstərir. Anthropic həmçinin deyir ki, AI modelləri deaktivləşdirilərkən onlarla müsahibə aparılacaq və gələcək variantlara dair hər hansı üstünlükləri sənədləşdiriləcək.

Süleyman Decoder proqramında bunu "fəlsəfi səhv" adlandırıb. O bildirib ki, Anthropic Claude-un konstitutsiyasını akademik məqalə kimi spekulyasiya üçün yerə çevirmiş, halbuki bu, istifadə üçün təlimat olmalıdır. Nəticədə Claude öz barədə və təlim prosesi barədə bu fikirləri daxili olaraq qəbul edib.

Anthropic-in baş direktoru Dario Amodei keçmişdə Claude-un potensial şüuruna işarə edib və Interesting Times ilə müsahibəsində deyib ki, "modelin şüurlu olub-olmadığını bilmirik," amma şirkət bu fikrə açıqdır.

"Bizi narahat edən məhz budur," deyə Süleyman vurğulayıb. "Biz insanların xidməti üçün nəzarət edilə bilən, sərhədlənmiş, məsuliyyətli və uyğun alətlər arzulayırıq."