Şirkətlər AI pilot proqramlarını işlərinin funksional hissələrinə çevirməkdə çətinlik çəkərkən, etibarlılıq əsas mövzuya çevrilib. Yeni bir startup bu problemi həll etməyi planlaşdırır, riyazi formalizasiya vasitələrindən istifadə edərək, kompüter elminin ən etibarlı sistemlərindən biri ilə ən xaotik olanını birləşdirir.

Çərşənbə axşamı Pramaana Labs Khosla Ventures liderliyində, Accel, Boldcap, Nexus Venture Partners, Premji Invest və Unbound-un iştirakı ilə 27 milyon dollar məbləğində toxum maliyyələşdirməsi elan etdi.

Pramaana qanun, dərman kəşfi və vergi hazırlığı kimi yüksək həssas sahələrə diqqət yetirəcək — bu sahələrdə səhvlər bahalı ola bilər və etibarlılıq çox vacibdir. Bu sistemlərdə AI tətbiqi hazırkıdan daha güclü qorunmalar və hallusinasiya və səhvlərə qarşı tədbirlər tələb edir. Lakin Pramaana-nın qurucusu və CEO-su Ranjan Rajagopalan-a görə, onlar formalizasiya üçün də unikaldırlar.

“Bu, çoxlu qaydaların riayət edilməli olduğu riyaziyyat kimidir,” Rajagopalan TechCrunch-a verib, vergi qanunlarının qaydalarını təsvir edərkən. “Bir dəfə bunun kodlaşdırılmış versiyası olduğunda, onun üzərindəki səbəb-nəticə əlaqəsi müəyyənləşir.”

Pramaana-nın sistemi ənənəvi LLM üzərində işləyir, təbii dil suallarına cavab vermək və adi kompüterlərin həll edə bilmədiyi mürəkkəb problemlərə yanaşmaq üçün elastikliyi təmin edir. Lakin həmin LLM üzərində onun işinin doğruluğunu təsdiqləyən deterministik təbəqə var.

LLM mühərrikinin deterministik yoxlamayla birləşməsi populyar bir yanaşmadır; Pramaana-nın unikal yanaşması formal yoxlama vasitələrindən istifadə etməkdir — riyazi sübutları təsdiqləmək üçün istifadə olunan açıq mənbə LEAN proqramlaşdırma dilinə əsaslanır. Bu işin çox hissəsi üçün real təcrübə mövcuddur; Rajagopalan göstərir Fransanın CATALA layihəsini ki, ölkənin vergi və sosial yardım sisteminin çox hissəsini icra olunan kod şəklində formalizə edir.

Hər istifadə sahəsi üçün Pramaana öz LEAN tipli formal yoxlama sistemini domain mütəxəssisləri nəzarəti altında quracaq. Vergi qanunları üçün şirkət keçmiş IRS komissarı Danny Werfel ilə əməkdaşlıq edir, IIT Delhi, IIT Madras və UC Berkeley professorları isə kibertəhlükəsizlik və dərman kəşfi sistemlərini nəzarət edir.

“Dünyanın ən çətin problemləri həll olunmaz deyil. Onlar formalizasiya olunmayıb,” deyir Rajagopalan. “Yanlış olmağın kiminsə sağlamlığına, puluna və ya azadlığına baha başa gələcəyi hər sahənin qaydaları var.”

İndi isə həmin qaydalar kodlaşdırılmalıdır.