OpenAI ən son qabaqcıl LLM modeli Sol-u geniş ictimaiyyət üçün təqdim edir. Sol modeli ən azı Anthropic-in Fable modeli səviyyəsində qiymətləndirilir, lakin Fable-un imkanları (və ya mülkiyyəti) Ağ Evi narahat etmiş və qısa müddətə ictimaiyyət üçün istifadəsi qadağan edilmişdi.

Bəs bu modellərin buraxılması üçün necə icazə verilmişdir? Qısa cavab: heç kim tam məlumata malik deyil.

Georgetown-un Təhlükəsizlik və İnkişaf Edən Texnologiyalar Mərkəzinin aparıcı tədqiqat analitiki Mina Narayanan TechCrunch-a bildirib ki, "Şəxsən mən bu proseslərin dəqiq icraaatı ilə tanış deyiləm, ona görə də onların kifayət qədər münasib olub-olmadığı barədə məlumatım yoxdur." O əlavə edib ki, Anthropic hökumətlə danışıqlar apardıqlarını, modelin 'jailbreak' cəhdlərini aşkarlamaq üçün təsnifatçı (classifier) hazırladıqlarını və gələcəkdə belə halların qarşısını almaq üçün müdafiəçi strategiyalar tətbiq etdiklərini bildirib, lakin hökumət ilə Anthropic və OpenAI arasındakı dialoq dəqiq məlum deyil.

Databricks, Perplexity və Laude İnstitutunun həmtəsisçisi, komputer alimi Andy Konwinski deyir ki, o, heç vaxt bu prosesləri anlayan kimsə ilə danışmayıb, hətta qabaqcıllar laboratoriyalarının əməkdaşları ilə belə. O bildirir: "Bu, varoluşsal problemidir. Təhlükəsizlik məsələsində deyil, qərar verənin kim olduğu, kimin icazə verdiyi ilə bağlıdır."

Tramp administrasiyasının 18-ci ayında belə, mövzu ilə bağlı aydınlıq çox azdır. Keçən ay prezident fərmanı qəbul edilib və qabaqcıllar modelinin qiymətləndirilməsi üçün yol xəritəsi təqdim olunub, ancaq detalları məlum deyil. "AI üçün FDA olmayacaq," – bildirib Sriram Krishnan, Ağ Evdə AI üzrə məsləhətçi olmuş Andreesen Horowitz-un keçmiş partnyoru.

Hazırda modeli hansı növlərin dövlət yoxlamasına məruz qalmalı olduğu və hansı agentliklərin bu qiymətləndirməni aparacağı barədə razılıq yoxdur. İndiyə qədər Ticarət Nazirliyinin Süni İntellekt Standartları və İnnovasiya Mərkəzi liderliyi götürmüş görünsə də, fərmanda altı nazirliyin avqustun əvvəlinə qədər yekun proses ortaya qoyması tələb olunub. Hazırki vəziyyət ən yaxşı halda təsadüfi xarakter daşıyır.

OpenAI-nin baş icraçı direktoru Sem Altman CNBC-yə deyib ki, prosesdə Ticarət naziri Havard Lutnik, Maliyyə naziri Skott Besent və ABŞ milli kibertəhlükəsizlik direktoru Şon Kairnkross ilə danışıqlar aparıblar, lakin modelin kimlər tərəfindən və necə test olunduğu məlum deyil. OpenAI TechCrunch-a hökumətin prosesini təfərrüatlı şəkildə açıqlamayıb, amma modelin təhlükəsizlik kartında UK AISI, SecureBio və Irregular kimi təşkilatların xarici qiymətləndirmələrinin nəticələrinə istinad ediblər.

Fable modeli kimi, OpenAI də geniş yayım öncəsi modeli hökumət və seçilmiş istifadəçilərlə önizləyib, lakin istifadəçilərin kimliyi və seçimi açıqlanmır. İyunun sonunda şirkət "biz belə hökumət giriş prosedurunun uzunmüddətli standart halına gəlməsini istəmirik" deyərək, hökumətlə yeni yanaşma hazırlayacaq.

Bu müzakirələrin fonunda Altmanın Tramp administrasiyası üçün "Trump Hesabları"na OpenAI-nin payından 5 faizə qədər təklif etdiyi və OpenAI prezidenti Qreq Brokmənin Trampın siyasi fəaliyyətinə ən böyük məlum donor olduğu bildirilir. Bu isə hökumətin Sol modelinə nisbətən yumşaq tənzimləmə mövqeyi ilə əlaqələndirilir.

Digər tərəfdən, Fable modeli ABŞ hökumətinin xarici istifadəçilərin istifadəsini qadağan etməsi səbəbilə qısa müddət dayandırılmışdı. Bu, həm 'jailbreak' hallarının və hakerlik potensialının qarşısını almaq məqsədi olaraq, həm də Anthropic ilə Tramp administrasiyası arasında şəxsiyyət konfliktləri nəticəsi idi.

Sənaye baxımından, tənzimləmənin yumşaq olması arzuolunandır, lakin bunun inzibati şəxslərlə şəxsi əlaqələrə əsaslanması qeyri-müəyyənlik və yanlış stimul yaradır.

Konwinski texnologiya mütəxəssislərinin, məsələn, təhlükəsizlik, uyğunluq, interpretasiya tədqiqatçılarının, hətta məlumat mütəxəssislərinin və digər sahə mütəxəssislərinin modelin buraxılmasında kifayət qədər iştirak etmədiyini bildirir.

O, "açıq resursların" təhlükəsizlik və innovasiyanı tarazlamağın ən yaxşı yolu olduğunu vurğulayır, FDA, NIH və milli laboratoriyalar kimi modellərə işarə edir, hansı ki, elmi tədqiqatçılar, hökumət rəhbərləri və özəl şirkətləri təhlükəsizlik məsələlərində razılığa gətirirlər.

Kapitalizmin stimulları uzun illərdir AI tədqiqatçılarını hərəkətə gətirib və İlon Maskın OpenAI-nin korporativ strukturuna qarşı iddiası zamanı məhkəmədə də əks olunub. Ball göstərir ki, AI biznesinin təbiəti şirkətlərin modellərini buraxdıqdan sonra təlim xərclərini qısa müddətdə ödəməsini və rəqiblərdən irəlidə olmasını tələb edir. "Niyyətlərinin yaxşı olması fərq etməz, əməliyyat qaydalarında aydın hüquqi öhdəliklər və məsuliyyətlər mövcuddur," – deyir Konwinski.

Ball qeyd edir ki, gələcək hökumət tərəfindən lisenziyalı, müstəqil auditor təşkilatları tərəfindən qabaqcıllar laboratoriyaların təhlükəsizlik yanaşması qiymətləndirilməlidir. Konwinski də akademiya və qeyri-kommersiya mühitindən müstəqil ekspertlərin qabaqcıllar modellərə çıxışının artması üçün fokuslanan tədqiqat təşkilatlarını dəstəkləyir.

Hazırda süni intellektin inkişafı haqqında sirrlilik aradan qalxmır, lakin bu, Amerikanın getdikcə artan şübhəsi fonunda sənayeyə siyasi çətinliklər gətirəcək. Viskonsin-Medison Universitetinin komputer elmləri professoru Remzi Arpaci-Dusseau deyib: "Məsuliyyətli şəxslərin bu dəyişiklikləri irəli apardığına dair inam yoxdur."

Daha sonra, nüfuzlu kvant fondunun təsisçisi David Siegel iştirakçılara "Çox az sayda şirkətin texnologiyanı idarə etdiyi, hökumətin gizli laboratoriyalarında bu texnologiyanın istifadəyə yararlı olub-olmadığını qiymətləndirdiyi, ictimaiyyətin və alimlərin isə bu məlumatlara çıxışının olmaması" kimi mənfi situasiyanı təsəvvür etməyi təklif edib.

Görünür ki, artıq bu vəziyyəti təsəvvür etməyə ehtiyac yoxdur.