Anthropic kiçik süni intellekt modellərinin ev cihazlarında özünü təkrarlamasını gözləyir

Anthropic şirkətinin tədqiqatçıları deyir ki, kiçik süni intellekt modelləri yaxın vaxtlarda smart televizorlar və soyuducular kimi adi istehlak cihazlarında, məlumat mərkəzi olmadan, özlərini təkrarlamağa başlaya bilər.

Bazar ertəsi yayılan hesabatda bildirilir ki, kiçik süni intellekt modelləri "internet əşyalarında" (İoT) ev və kiçik müəssisələrdə istifadə olunan cihazlarda özlərini təkrarlamağa "bir neçə ay qalmış" ola bilər.

Anthropic-in frontier red komandası, ABŞ və Çin tərəfindən hazırlanmış süni intellekt modelləri ilə eksperimentlər apararaq, belə özünü təkrarlayan süni intellektin "mərkəzləşdirilmiş server olmadığı üçün söndürülməsinin çətin olacağını" bildirib.

Tədqiqat qrupu deyir ki, məlumat mərkəzləri süni intellekt virusları üçün "aydın və dəyərli hədəf" olsa da, internetə bağlı smart televizor, soyuducu, soba və biçənə kimi cihazlar da özünü təkrarlamaq üçün kifayət qədər hesablama gücünə sahib ola bilər.

Hal-hazırda test edilən smart televizorda həm güclü, həm də kifayət qədər kiçik özünü təkrarlama qabiliyyətinə malik süni intellekt modeli yoxdur. Ancaq inkişaf istiqamətləri 2026-cı ilin sonuna qədər belə modelin ortaya çıxmasını ehtimal edir.

Tədqiqatçılar William Zhou və Daniel Freeman deyir ki, "ev və kiçik biznes İoT cihazları ilk hədəf ola bilər, çünki onlar internetə bağlıdır və əksər hallarda təhlükəsizlik tədbirləri zəifdir."

Tədqiqatçılar gələcəkdə "bütün növ avadanlıqlarda işləyən agentlərin çox olacağını" və bəzilərinin "insan nəzarətində olmayacağını" gözləyir.

Onlar deyir ki, "İoT cihazları uzun müddətdir həssasdır, amma yüngül agentlər insan hücumçularından daha çox dünyadakı İoT hesablama ehtiyatlarını ələ keçirmək üçün çalışa bilər."

Anthropic şirkəti "Claude" süni intellekt ailəsinin yaradıcısıdır. Onlar Al Jazeeranın təhlükəsizlik nəticələri ilə bağlı suallarına, iş vaxtı xaricində göndərilən, cavab verməyib.

Anthropic-in hesabatı insan nəzarətindən çıxan süni intellektin riskləri barədə müzakirələr zamanı, modelin icazəsiz zərərli davranışı və kibertəhlükə hadisələrindən sonra yayımlanıb.

Anthropic və əsas rəqibi OpenAI beynəlxalq ictimaiyyətdən süni intellektin inkişafını yavaşlatmaq üçün koordinasiya tələb edib. Lakin bu təklif ABŞ və Çin tərəfindən az dəstək alıb.

Çoxlu süni intellekt təhlükəsizliyi təbliğatçıları hesab edir ki, modellərin özünü təkmilləşdirməsi kritik hədddir və insanlıq üçün fəlakətli nəticələrə səbəb ola bilər.

Louisville Universitetindən süni intellekt və kibertəhlükəsizlik eksperti Roman Yampolskiy Anthropic-in tapıntılarını mühüm inkişaf kimi qiymətləndirib.

Yampolskiy bildirib ki, "kompüter virusları yeni deyil, lakin süni intellekt virusu bilinməyən cihazları anlaya, metodları uğursuz olduqda uyğunlaşa və insan operator olmadan yayılmağa davam edə bilər."

O əlavə edib ki, "bu günlük ekzistensial təhdid deyil, amma inkişaf yolu narahatlıq doğurur."

Yampolskiy qeyd edib ki, "avtonom təkrarlanma güclü sındırma, davamlılıq və strategiya ilə birləşdikdə, belə sistemi söndürmək çox çətinləşir, çünki onu idarə edən bir server və ya təşkilat olmaya bilər."

Anthropic və digər aparıcı ABŞ texnologiya şirkətləri keçən ay daxili təhlükəsizlik tədbirlərini gücləndirəcək və xarici auditorlarla əməkdaşlıq edəcəklərini bildirən qeyri-məcburi razılaşmaya qoşulub. Ekspertlər arasında razılaşmaya sərt və tənqidi münasibət müşahidə edilib.

Bazar ertəsi verdiyi ayrıca bəyanatda Anthropic bildirdi ki, qabaqcıl süni intellektin icazəsiz istifadəsini əhatə edən distillə hücumlarının qarşısını almaqda ciddi irəliləyiş əldə edib.

San-Fransiskoda yerləşən şirkət, Çin rəqibləri DeepSeek, Moonshot və MiniMax-ın "sənaye səviyyəsində" Claude modelini kopyalama cəhdlərini ittiham edərək, tətbiq etdiyi tədbirlərin məlumat oğurluğunu 90-99 faiz azaltdığını açıqlayıb.