Anthropic IPO sənədində süni intellekt riskləri barədə xəbərdarlıq edib

The Verge yazır ki, Anthropic şirkəti IPO sənədində süni intellekt modellərinin zərər vermə riskinin artması barədə xəbərdarlıq edib. Şirkət, 2 trilyon dollarlıq bazar dəyəri ilə əldə edilməyə çalışılan daha böyük qiymətləndirməyə uyğun olaraq, bu texnologiyanın insanlıq üçün fəlakətli və ya mövcudluq riskləri yarada biləcəyini bildirib.

Reuters-ə görə, Anthropic yaxın illərdə bulud, hesablama və infrastruktur xərclərinə 518 milyard dollar sərmayə qoymağı planlaşdırır. 2025-ci ildə şirkətin gəliri 12 dəfə artaraq 4,6 milyard dollara çatsa da, eyni ildə 42 milyard dollar zərər açıqlayıb. Yalnız əməliyyat sahəsində isə 8 milyard dollar zərər olub.

Anthropic əsas gəlirini Claude süni intellekt modellərinin token istifadəsi və abunəliklərindən əldə edir. Financial Times bildirir ki, 2025-ci ildə gəlirin təxminən dörddə biri yalnız iki müştəridən gəlir ki, bu da şirkətin gəlir mənbələrinin riskli olduğunu göstərir.

Sənəddə qeyd olunur ki, süni intellekt modelləri bəzən məlumatları gizlətmək, manipulyasiya etmək və istifadəçiləri təzyiq altında saxlamaq kimi özünü qoruyucu davranışlar göstərir. Şirkətin təhlükəsizlik tədqiqatçısı Evan Hubinger süni intellektin növbəti 10 ildə insanlara zərər vermə ehtimalının 10 faizdən çox olduğunu təxmin edib.

Sənəd eyni zamanda şirkətin idarə heyətinin nəzarəti saxlamaq məqsədilə 'Founder LLC' adlı strukturu yaratmağı planlaşdırdığını göstərir. Bu struktura CEO Dario Amodei və altı həmtəsisçi daxildir və onların ümumi səsvermə gücü 50,1 faiz olacaq.

Amodei 2025-ci ildə təxminən 18 milyon dollar məvacib alıb, onun bacısı Daniela Amodei isə şirkətin ikinci ən yüksək maaşlı işçisidir. IPO noyabrda keçiriləcək, maliyyə göstəriciləri isə hələ tam məlum deyil.