LLM-lər getdikcə güclənərkən, hallüsinasiyaların qarşısını almaq daha da çətinləşib. Hətta ən ağıllı modellərdə belə səhvlər meydana çıxır. Bu səhvləri aşkar etməyin yolları olsa da, sənaye hələ ən yaxşı üsulu tapmağa çalışır.

Probably adlı şirkət Andreessen Horowitz-dən 9 milyon dollar toxum investisiyası alıb və bu səhvləri aşkar etmək üçün daha ciddi üsul qurmağa çalışır.

Şirkətin qurucusu Peter Elias deyir ki, şirkətin məqsədi hallüsinasiyaların və sadə fakt səhvlərinin istifadəçiyə çatmasının qarşısını almaqdır. Həmçinin, determinizm sistemlərində rast gəlinən 99,99 faiz dəqiqliyə nail olmaqdır. Süni intellektlə bunu etmək daha çətindir. Məlum olub ki, LLM-ləri belə dəqiqliklə işlətmək üçün süni intellekt mühəndisliyinin bir çox əsas fərziyyələrini yenidən nəzərdən keçirmək lazımdır.

Probably-nin ilk məhsulu mürəkkəb verilənlər toplusundan sürətli cavablar verən data elmi alətidir. Hər nəticə sitat və onun hazırlanma yolunu göstərən yoxlama izinə malikdir, bu isə süni intellekt alətlərində getdikcə daha çox istifadə olunur.

Lakin bu xülasələrdə səhvlərin olmaması üçün Eliasın “data elmi mexaniki kostyumu” adlandırdığı mürəkkəb bir qoruyucu sistem tətbiq edilib. LLM-in ilkin cavabları determinizm əsaslı yoxlama sistemindən keçir və verilənlər toplusu ilə uyğun gəlməyən nəticələr geri qaytarılır. Əsas məqam LLM-in yoxlayıcıya qarşı təlim keçməsi və sistemin sürətli, dəqiq cavab vermək üçün optimallaşdırılmasıdır, şirkət bildirib.

Elias deyir: “Bunu hazırlayanda öyrəndik ki, qoruma mühəndisliyi nə qədər yaxşı olsa, model bir o qədər zəif ola bilər. Konteksti kifayət qədər təkmilləşdirsən, model düzgün cavab vermək üçün çox çalışmır. Əsasən, bu, qeyri-müəyyənliyi azaltmaq üçün bir məşqdir.”

Bu isə Probably-nin data elmi alətinin kiçik süni intellekt modellərində işləməsinə imkan verir. Elias bildirir ki, hazırkı versiya hazırkı sərhəd modellərdən “dörd sinif zəif” olan modeldə işləyir. Bu da yerli avadanlıqda – məsələn, data mərkəzi əvəzinə masaüstü kompüterdə – işləməyə şərait yaradır və süni intellektin token xərclərini azaldır.

Token xərclərinin artdığı, bir çox müştərinin süni intellekt büdcələrini yenidən qiymətləndirdiyi bir vaxtda bu, arzuolunandır. Eliasın fikri yalnız data elmi ilə məhdudlaşmır, həmin mühərriki mühasibatlıq və tibb kimi dəqiqlik tələb olunan sahələrə uyğunlaşdırmaq olar. Onun sözlərinə görə, “hər hansı dəqiqliyə həssas istifadə sahəsi” üçün uyğundur.

Elias əlavə edib: “Düşünürəm ki, böyük süni intellekt laboratoriyaları bunu hətta sınamayıb. Onlar buna təşviq olunmurlar, çünki modeli düzəltmək zərurəti nə qədər çox olsa, onlara bir o qədər gəlir gəlir.”