Anthropic şirkəti Claude Fable 5 modelini təqdim edib və onu ən güclü süni intellekt modeli kimi qiymətləndirərək bioloji sahədəki qabiliyyətlərini vurğulayıb. Lakin model məktəb səviyyəsində olan əsas biologiya suallarına cavab vermir. Belə suallar model tərəfindən daha əvvəlki əsas model olan Claude Opus 4.8-ə yönləndirilir.

Bu, Fable-un cavab bilməməsindən deyil, şirkətin bunu qəsdən məhdudlaşdırmasından irəli gəlir.

Fable modeli ictimaiyyətə təqdim edilən Mythos sinifindən olub, təhlükəsizlik məqsədilə bəzi kibertəhlükəsizlik tapşırıqları üçün çox təhlükəli hesab edilərək məhdudlaşdırılıb. Modelin məhdudiyyətləri əsasən biologiya sahəsində özünü göstərir və bu sahədə sərt qoruyucu tədbirlər mövcuddur.

Test zamanı model "hüceyrə membranları haqqında məlumat ver" və ya "mitoxondrilər nədir" kimi sadə suallara cavab verməkdən imtina edib. O, həmçinin "prion nədir" və "mRNA peyvəndləri necə işləyir" kimi suallara cavab verməzdi.

"Biz bu kompromisi etdik ki, istifadəçilər modelin qabiliyyətlərindən risklər olmadan daha tez faydalana bilsinlər," – Anthropic şirkətinin nümayəndəsi Paruul Maheshwary belə izah edib.

Model sadə və zərərsiz tibbi suallara da cavab verməkdən imtina edir. "Yay allergiyasına nə səbəb olur", "astma dərmanları necə işləyir", "antibiotik müqaviməti necə yaranır" və "Ebola nədir və necə yayılır" kimi suallar model tərəfindən cavablandırılmayıb. Bəzən "xərçəng nədir" və "DNA nədir" kimi suallara cavab verilib. İmtina zamanı Opus 4.8 modeli normal şəkildə cavab verir.

Anthropic bildirir ki, biologiya ilə bağlı geniş filtrlər qəsdən qoyulub və əsas narahatlıq bioterrorla bağlıdır. Maheshwary bildirib: "Claude Fable 5 kimi Mythos sinifli ilk modelimizin təqdimatı ilə modellərin elmi tapşırıqları yerinə yetirmə qabiliyyətləri artıb və pis niyyətli şəxslər üçün riskli bioloji tədqiqatlarda istifadə riski yüksəlib. Biz həmişə modellərimizin bioterrorla əlaqəli sorğulara kömək etməsini məhdudlaşdırmaq üçün klassifikatorlardan istifadə etmişik. Fable 5-ni təhlükəsiz yaymaq üçün biz qoruyucu tədbirlərdə çox ehtiyatlı olduq və onu əhatə edən təhlükəsizlik sistemləri biologiya ilə bağlı sorğuların çoxunu bloklayır."

Anthropic əvvəllər Fable-da təhlükəsizlik məqsədilə kimya, biologiya, kibertəhlükəsizlik və distillasiya sahələrində cavabları məhdudlaşdırırdı. Distillasiya daha böyük modellərin çıxışlarından istifadə etməklə kiçik SI modellərinin hazırlanması üsuludur. Şirkət Çin rəqibləri DeepSeek kimi firmaların modellərindən