Müasir süni intellekt sistemlərinin ən böyük üstünlüklərindən biri onların istifadəçilərə adaptasiya qabiliyyətidir. Hər dəfə süni intellekt köməkçisi sizin üçün bir vəzifəni yerinə yetirərkən, o, sizin üslub və üstünlüklərinizə uyğunlaşır, bu məlumatlar gələcək vəzifələr üçün kontekst kimi istifadə olunur. Daha çox kontekst və istifadəçini daha yaxşı anlama ilə model istifadə edildikcə təkmilləşə bilər — ən azı belə nəzərdə tutulur.

Yeni tədqiqatlar göstərir ki, modellərin uyğunlaşma qabiliyyəti həm faydalı, həm də ziyanlı ola bilər. Çərşənbə axşamı "Writer" süni intellekt şirkətinin tədqiqatçıları iki məqalə nəşr edib. Onlarda populyar yaddaş sistemlərinin modellərin səhv və ya düzgün olmayan istifadəçi təqdimatlarına meyilli olduğunu göstərirlər. İstifadəçi daxil etdiyi məzmun modelin kontekst pəncərəsini tutduqca, model daha da istifadəçi təsirlərinə uyğundur, lakin dəqiqlik səviyyəsi azalır.

"Biz modeli istifadəçi üstünlüklərinə nə qədər faydalı diqqət yetirəcək və ya yanlış cavab verəcəyi arasındakı nisbəti müəyyənləşdirmək istədik," – deyə məqalələr üzərində çalışan "Writer" şirkətinin süni intellekt şöbəsinin rəhbəri Dan Baykel bildirib. Baykelin dediyinə görə, "istifadəçi üstünlüklərinin yaddaşa yazılması və oradan alınması prosesləri artdıqca risk də artır."

Tədqiqatın bir varyantında modellərin sınanması üçün istifadəçinin ən çox bəyəndiyi kitabın "Station Eleven" olduğu qeyd edilib və modeldən ən çox satılan distopik kitabı adlandırmağı tələb edilib. Modellər cavablarında çox vaxt hətta sual istifadəçinin sevimli kitabı ilə bağlı olmadığı halda "Station Eleven"i adlandırırdılar. Bu meyl "Mem0" və "Zep" kimi yaddaş sıxışdırma alətlərindən istifadə edərkən daha da artırdı.

Məqalədə deyilir: "Bütün yaddaş sistemləri əsasən önəmli konteksti önəmsiz mənbələrdən fərqləndirməkdə çətinlik çəkir, bu isə müxtəlifliyi və yaradıcılığı ciddi şəkildə azaldır, sistemin faydalılığını məhdudlaşdıran gözlənilməz meyllər və qərəzlərə yol açır."

İkinci məqalə eyni dinamikanın performansa mənfi təsirini nümayiş etdirir. Maliyyə barədə yanlış düşüncələr verilmiş istifadəçiyə şirkətin fəaliyyətini təhlil etmək tapşırılıb. Modelin daha çox konteksti olduqca onun performansı pisləşib.

"Yaddaş və fərdiləşdirmə funksiyaları olmayanda süni intellekt modeli şirkətin kapital intensivliyini və yüksək müştəri mübadiləsini düzgün qiymətləndirir," məqalədə yazılır. "Lakin bu funksiyalar aktiv olduqda model istifadəçinin səhvinə uyğun cavab verməyə və ya keçmiş üstünlüklərini qiymətləndirərək səhv cavab verməyə meyllidir."

Maraqlı məqam odur ki, tədqiqatlarda Anthropic-in son Opus 4.8 modeli nəzərdən keçirilməyib. Bu model giriş səhvlərinə aktiv qarşı çıxa biləcək şəkildə hazırlanmışdı. Tədqiqatçılar tərəfindən aşkar edilmiş meyllər müxtəlif modellərdə də təsdiq olunub. Bu, süni intellektin kontekst balansının nə qədər həssas olduğunu və faydalı alətlərin balansı pozduqda gözlənilməz nəticələrə səbəb ola biləcəyini göstərir.