Böyük dil modeli (LLM) təlimi süni intellektin ilkin mərhələsində əsas rol oynasa da, çıxarışın daha böyük bazar olması gözlənilir.

LLM təlimi hesablama baxımından mürəkkəb və resurs tələb edən proses olsa da, çıxarış yaddaş əsaslıdır və davamlı aparıldığı üçün daha sərfəlidir. Ənənəvi olaraq, qrafik prosessor vahidləri (GPU) və digər süni intellekt akseleratorları yüksək sürətli yaddaş (HBM) ilə birləşdirilir ki, performans optimallaşdırılsın.

Süni intellekt dünyanın ilk trilyonerini yaradacaq? Komandamız az tanınan, Nvidia və Intel üçün vacib olan kritik texnologiyanı təmin edən bir şirkət haqda "Zəruri Monopoliya" adlı hesabat yayıb. Davam et »

Lakin Nvidia (NASDAQ: NVDA) Groq şirkətini "satın alması" vasitəsilə, Cerebras Systems (NASDAQ: CBRS) isə çıxarış iş yüklərini sürətləndirmək üçün çip daxilində SRAM (statik təsadüfi giriş yaddaşı) üzərində fokuslanıb. Bu, yeni yanaşmadır və hər iki şirkət SRAM-ı fərqli şəkildə istifadə edir. SRAM çıxarış sürətlərini xeyli artırsa da, fiziki olaraq böyük ölçüdədir. Bu isə çipin ölçüsü, yaddaş tutumu, çipin soyudulması və enerji təminatı üçün data mərkəzi infrastrukturu arasında kompromislər yaradır.

Gəlin hər iki yanaşmanı nəzərdən keçirək və hansının çıxarış bazarında liderlik etməyə daha uyğun olduğunu müzakirə edək.

Cerebras: Böyük daha yaxşıdır?

SRAM-ın fiziki böyük olması problemi ilə mübarizə aparmaq üçün Cerebras tək çipdə həm böyük hesablama gücü, həm də SRAM yerləşdirmək üçün plazma ölçülü çiplər hazırlayır. Lakin bu yanaşma əlavə çətinliklər yaradır.

Əvvəlcə, çip istehsalı mürəkkəbdir və qüsurlar yayğındır. Taiwan Semiconductor Manufacturing inkişaf etmiş çip istehsalında faktiki monopoliyadır, çünki yüksək məhsuldarlıqla çiplər hazırlayır, amma ən yeni texnologiyada məhsuldarlıq təxminən 80 faizdir. Həddindən artıq baha və plazma ölçülü çiplərdə isə bu məhsuldarlıq kifayət etmir. Bu problemi həll etmək üçün Cerebras əlavə nüvələr əlavə edir ki, qüsurları aradan qaldırmaq mümkün olsun.

Bundan əlavə, çiplər xüsusi soyutma və enerji idarəetməsi tələb edir. Buna görə də, şirkət onları ayrıca deyil, yalnız tam server rafı CS-3 sistemi kimi satır və ya icarəyə verir. Cerebras iddia edir ki, onun sistemləri GPU-lardan 15 dəfə sürətli çıxarış edir, lakin bu, çox bahalı və yüksək səviyyəli həll deməkdir.