OpenAI Jev rəqibini geniş istifadəçilərə təqdim edir

OpenAI ilk dəfə Decisions API modelini geniş istifadəçilərə təqdim etdi. Bu, sürətli və ucuz intellekt bazarına daxil olmaqdır ki, bu sahə əvvəllər frontier labın keçmiş tədqiqatçısı tərəfindən yaradılan TypeSafe startapını 7,6 milyard dollarlıq şirkətə çevirib.

TypeSafe-in Jev modeli dərin öyrənmə sahəsində böyük təsnifatçılar kateqoriyası yaratdı. Bu model seçimlər veriləndə tez qərar verir və qərarına etimad səviyyəsi göstərir. Proqram təminatı hazırlayanlar gördülər ki, bu qərar və ya Sistem Bir modelləri müxtəlif iş proseslərində LLM-lərin yerini asanlıqla və daha ucuz yerinə yetirə bilir.

OpenAI-nin API məhsul rəhbəri Nikunj Handa TechCrunch-a dedi ki, həmkarları Jev modelini görüb ‘‘vay, bunun üçün milyonlarla istifadə halımız var’’ dedilər. Handanın komandası öz versiyasını tez hazırladı. Onlar xüsusi tənzimlənmiş qərar modeli yaratmaqdansa, ChatGPT Luna-nı sürətləndirmək və xərcləri azaltmaq üçün uyğunlaşdırdılar.

Handa bildirdi ki, Decisions API-də ən böyük yenilik sürətin artmasıdır. İş vaxtını bir-üç saniyədən 100, 120, 180 millisekund aralığına endiriblər. Gələcəkdə modelləri bu istiqamətdə daha da yaxşılaşdırmaq üçün xüsusi təlimlər ola bilər. İndilikdə işini Luna modeli görür.

OpenAI bu modeli 29 sentyabrda keçirilən inkişaf etdiricilər günündə elan edib. Decisions API cümə axşamı bütün müştərilər üçün açıq oldu. Şirkət istifadəyə yeni səs və vizual imkanlar əlavə edib və coğrafi olaraq resursları yönəldərək gecikməni azaltmağa çalışır.

İlkin sınaqlarda Box, Datadog, Ramp və Speak kimi müştərilər APIni LLM-lərin daha sürətli işləməsi üçün istifadə edib. Speak-in texniki direktor Andrew Hsu bildirdi ki, Decisions API şirkətin əməliyyat vaxtını 1,4 saniyədən 0,13 saniyəyə endirib. OpenAI Dots səs köməkçisinin cavab sürətini artırmaq üçün də bu məhsulu tətbiq edib.

Hələqiq qərar modelini nə yaxşı edir, yalnız ‘‘işləyir’’ deməkdir. Zəkə, xərclər, kalibrasiya və sürət işə görə dəyişir. TypeSafe-in baş direktoru Diogo Almeida testlərə inanmır və insanları modelləri öz işlərində sınamağa çağırır. TypeSafe isə yeni Jev modelini yayımlayarkən də öz reytinqlərini təqdim edib; yeni model şəkillərə və ağıllı-əgər əmrlərinə dəstək verir.

Açıq testlərdə AIM System One və Artificial Analysis Decision indeksləri sonuncu həftə Liquid-in buraxdığı D1 Ultra və Base Lab-in Elephant-1 modellərini üstün tutub. Jev modeli hər iki indeksi yeddinci və üçüncü yerlərdə bitirib, OpenAI-nin model isə səkkizinci və on dördüncü sıradadır. Lakin, TypeSafe-in məhsulları OpenRouter-da ən çox soruşulanlardır.

Ən maraqlı Jev testi JevMan-dır, burada qərar modelləri PacMan oynayır; Jev-in ən son modeli bu yarışmada birinci olub. Opper AI şirkətinin baş inkişaf direktoru Felix Wunderlich dedi ki, klassik oyun çətin qərarların sürətli və fasiləsiz verilməsi baxımından yaxşı sınaqdır. Model hər addımda bir neçə yüz millisekundda getməli olduğu yerə qərar verir.

OpenAI-nin modelləri çoxşaxəli imkanlarda üstün ola bilər. Luna şəkillərin təsnifatı sahəsində çox güclüdür və daha yaxşı kalibrləmə göstərir. Handa əlavə edib ki, müştərilər Decisions API-nin şəkilləri çıxış kimi qəbul etməsi üçün daha çevik olmasını istəyirlər.

Handa sürətin daha da artacağına inanır və yeni istifadə hallarını gözləyir: ‘‘Bunu 60 millisekund kimi sürətə gətirsək, hər video kadrı üçün API çağırışı etmək mümkün ola bilər.”

Bu məhsullar sürətli və ucuz olduqca, Jev-in adını daşıyan iqtisadçının təsvir etdiyi kimi, resursun daha səmərəli istifadəsi onun daha geniş yayılmasını təmin edəcək. Handanın sözlərinə görə, qərar modelləri gizli qalan geniş istifadə hallarını ortaya çıxaracaq.