ChatGPT-ə hər sorğu verdikdə məlumatın ötürülməsi prosesə start verir. Məlumat yaddaşdan çıxır, əvvəlcədən işlənmək üçün CPU-ya, ağır hesablama üçün GPU-ya göndərilir və sonra geri qayıdır. Bu ardıcıllıq modelin yaratdığı hər söz üçün təkrarlanır.

Əsas problem arxitekturadadır: hər sorğu üçün ən bahalı və enerji sərf edən çiplərdən keçmək tələb olunur. Bu səmərəsizliyi XCENA adlı, Cənubi Koreya və ABŞ-da ofisləri olan startap həll etməyə çalışır. Dörd illik startap prosessorun aktiv istifadə etdiyi məlumatların saxlandığı sürətli, qısa müddətli yaddaş çipi DRAM-a hesablama imkanlarını yaxınlaşdıran çip hazırlayıb. Nəticədə, məlumat əməliyyatları CPU, GPU və yaddaş arasındakı baha gediş-gəliş olmadan yaddaş yaxınlığında baş verir.

Belə yanaşma geniş tətbiq edilərsə, süni intellekt infrastrukturunun xərclərində ciddi azalma ola bilər. Bu, ölkədə investorların marağını artırır. XCENA 570 milyon dollar qiymətləndirmə ilə B seriyalı investisiya turunda 135 milyon dollar cəlb edib və ümumi yatırımı 185 milyon dollara çatdırıb.

Şirkətin CEO-su Cin Kim 2022-ci ildə CTO Dohun Kim və CPO Hari Cuhyun Kimlə birlikdə startapı qurub. Onların hamısı Samsung və SK Hynix kimi Nvidia-nın GPU-larını dəstəkləyən yaddaş nəhənglərində çalışıb. Cin Kim "CPU-lar və GPU-lar illər ərzində ağıllanıb, amma yaddaş dəyişməyib. XCENA bunu dəyişmək istəyir" deyib. O bildirib ki, yaddaş qiymətlərində artım və səhmlərdəki yüksəliş süni intellekt infrastrukturunun yaddaş mərkəzli arxitekturalara keçdiyini göstərir. Bu ay Samsung, SK Hynix və Micron yaddaş cip bazarında ilk dəfə trilyon dollar qiymətləndirməyə çatıb.

Kim deyib ki, XCENA biznesini "İnferens yalnız hesablama problemi deyil, getdikcə yaddaşın genişlənməsi problemidir" fikrinə əsaslayır.

XCENA-nın MX1 çipi CXL (Compute Express Link) vasitəsilə CPU-ya qoşulur. Bu, prosessor və yaddaş arasında xüsusi sürətli əlaqədir və məlumat prosessor yaddaş modulundan çıxmadan əvvəl emal olunur. Yəni hesablama məlumatın yanına gətirilir. Şirkət iddia edir ki, əvvəllər 10 serverdə həyata keçirilən iş bir serverdə həyata keçirilə bilər.

Cin Kim qeyd edir ki, "GPU-lar AI modeli təlimi üçün matris vurma əməliyyatlarında üstün ola bilər. Ancaq əvvəlcədən emal, KV cache idarəsi və məlumat yaddaşlaması kimi vəzifələr hələ CPU-larda aparılır. Bizim çip bu işləri yaddaş modulunda birbaşa yerinə yetirir."

Yaddaşın tələbatı ötən ilin ikinci yarısından bəri artıb və şirkət bunun faydasına işlədiyini düşünür.

Bir neçə qlobal yaddaş təchizatçısı ilə ilkin danışıqlar gedir, amma Kim onları açıqlamayıb. Ideal müştərilər illik onlarla milyard dollar süni intellekt infrastrukturuna xərcləyən hiperskalerlərdir. Onlar üçün yaddaş effektivliyində kiçik irəliləyiş yüz milyonlarla qənaət gətirə bilər.

MX1 hələ prototipdir. Kütləvi istehsalın 2026-cı ilin sonuna Samsung istehsal xəttində başlaması planlaşdırılır və gəlir 2027-ci ildən gözlənilir.

XCENA neyro-prosessinq vahidi istehsalçıları Nvidia ilə təlim işləri sahəsində rəqabət aparırkən, yaddaş intensiv təbəqəyə diqqət yönəldib.

Ən yaxın rəqiblərindən Nasdaq-da qeydiyyatdan keçmiş "Astera Labs" və "Marvell" yaddaş əlaqələndirilməsi üzərində işləyir. Marvell sahədə mövcud və böyük oyunçudur. Cin Kim fərqin intellektual mülkiyyətdə olduğunu vurğulayıb və bildirib: "Bizdə minlərlə nüvə var." Açıq məlumatlara görə, Marvell bir neçə ümumi məqsədli nüvə istifadə edir.

Bu nüvələr RISC-V adlı açıq mənbə çip dizayn planına əsaslanır və məlumat emalına xüsusi optimallaşdırılıb. Hər nüvə kiçik və səmərəli saxlanılır. XCENA daxili yaddaş iyerarxiyası, əlaqə magistralı və DRAM kontrollerini öz dizayn edir. Bu, rəqiblər də daxil olmaqla, çip şirkətlərinin çoxunun yaptıqlarından fərqlidir, çünki onlar adətən bu hissələri xarici şirkətlərə həvalə edirlər.

Şirkətimin əsas ofisləri Cənubi Koreyanın Söul yaxınlığındakı texnoloji mərkəz Pangyo və ABŞ-ın Kaliforniya ştatının Sunnyvale şəhərində yerləşir. Orada 90-dan çox işçisi var. Söulda yerləşən Altinum və IMM Investment risk kapital şirkətləri, həmçinin Corstone Asia, SBI Investment və Mirae Asset Capital investisiya turlarına rəhbərlik edib. XCENA beynəlxalq investorlarla əlavə maliyyələşmə üçün danışıqlar aparır.