Bill Gates 20 il davam edəcək süni zəka proseslərinə hazır olmağı tövsiyə etdi

Bu gün mən Bill Gates ilə danışıram, o, Microsoft-un həmtəsisçisi, keçmiş baş icraçı direktoru və Gates Fondunun sədri olub.

Son vaxtlar Bill Gates-in xəbərlərdə daha çox yer aldığını görmüş ola bilərsiniz — o, son bir neçə ay ərzində bir tür tur həyata keçirir, avqustun sonlarında "Dalğalı süni zəka dövrü gəlib. İndi verdiyimiz seçimlər həyati önəmlidir" adlı esse yayımlayıb.

Esseində Gates süni zəkanın təhlükəsizliyi mövzusunda fikirlərini gücləndirib və yazıb ki, "ən yaxşı şəraitdə belə, bu yeni süni zəka dövrünə keçid insanlıq tarixində ən dalğalı zamanlardan biri olacaq."

Müsahibələrində Gates süni zəkanı "insanların indiyə qədər yaxınlaşdığı ən təhlükəli şey" adlandırıb. O deyir ki, süni zəka "nüvə silahlarını önəmsiz göstərir." Ağ Ev və süni zəka sənayesindən gələn hal-hazırkı siyasət reaksiyasının bu təhlükəyə kifayət etmədiyi aydındır.

Mən bilmək istədim: Bill Gates süni zəka ilə bağlı pessimistdirmi? Ona həmçinin süni zəkanın insanlıqla nizamlana biləcəyi və nəzarət edilə biləcəyi barədə suallar da verdim. Süni zəkanın nə olduğu və onun şüurlu olub-olmaması barədə razılığa gələ bilməsək, onu necə idarə etməyi ümid edə bilərik? Həm bağlı, həm açıq mənbə modelləri üçün necə texniki olaraq tətbiq oluna biləcək bir uyğunlaşdırma həlli yaradıla bilər?

Bill bizə vaxt ayırdı və bu məsələlər üzərində geniş müzakirə apardıq. O fikirləşir ki, süni zəka tərəfindən təxminən iki onillik davam edəcək narahat dövrə hazır olmalıyıq. Bu dövr o qədər çətin ola bilər ki, cəmiyyəti iki hissəyə ayıra bilər — texnoloji irəliləyişlərlə rahat yaşayanlar və onlara qarşı çıxanlar.

Biz həmçinin əmək bazarı, gənc nəsillərin texnoloji inkişaflara qarşı nihilizmi və gələcəkdən ümidli olma səbəbləri barədə danışdıq. Bu mövzu dərin və əhatəlidir.

Gəlin başlayırıq: Bill Gates, Microsoft-un həmtəsisçisi və keçmiş baş icraçı direktoru.

Bu müsahibə dolğunluq və aydınlıq üçün yüngül redaktə olunub.

Bill Gates, siz Microsoft-un həmtəsisçi və keçmiş baş icraçı direktorusunuz. Həmçinin Gates Fondunun sədrisiniz. Decoder-ə xoş gəlmisiniz.

Təşəkkür edirəm.

Sizinlə yenidən danışmaq çox xoşdur. Biz illər ərzində çox danışmışıq. Bu danışıqların şərtlərinin fərqli göründüyünü deyə bilərdim. Əvvəllər, sizlə danışdığımızda, texnologiyaya və onun gətirəcəklərinə çox ümidlə baxırdınız.

Bir neçə il əvvəl Netflix-də seriyanız var idi. The Verge ilə müsahibənizdə bu fikri demişdiniz: “Mən inanıram ki, süni zəka faydalı bir şeydir, sadəcə onu düzgün istiqamətləndirməliyik.” Hesab edirəm ki, siz hələ də bu fikirdəsiniz, sadəcə onu formalaşdırmaq üçün vaxtın indi olduğunu düşünürsünüz.

Bəli, razıyam. Ümumi reaksiyanın yaranan çətinliyin sürətinə uyğun olmadığını deyərdim. Mən çox narahatam ki, pis tərəflər azaldılmayacaq və yaxşı tərəflər də çox yavaş gələcək, əgər biz düzgün idarə etməsək.

Mən çox narahatam ki, pis tərəflər azaldılmayacaq və yaxşı tərəflər də çox yavaş gələcək, əgər düzgün idarə etməsək.

Sizinlə bu söhbəti üç hissəyə bölmək istəyirəm. Süni zəka texnologiyası haqda indiki hissləriniz və onun niyə bu qədər sürətlə inkişaf etdiyi barədə başa düşmək istəyirəm. Texnologiya və onu nəzarət altına almağın texniki həlləri məni çox maraqlandırır. Siyasət həlləri də var, amma görünür ki, texnologiyanı çox inkişaf etdirməliyik.

Həmçinin kimin bu həlləri və nəzarəti tətbiq edəcəyini müzakirə etmək istəyirəm, çünki bu mövzu da hazırda müzakirəlidir. Gəlin başdan başlayaq. Hansı səbəb sizə belə bir təciliyyət hissi yaradır ki, süni zəka onu nəzarət etmək üçün bizim hazır olmadığımız bir sürətlə gəlir?

Son bir ildəki irəliləyiş çox təəccüblüdür, kod yazmaq və kiber boşluqları tapmaq qabiliyyətindən, biologiyada məntiq yürütməkdən, uşaqlar və digər insanlarla münasibət qurmaqdan, iş bazarını sarsıtmaqdan tutmuş. Bu möhtəşəm güc deməkdir ki, bütün bu hallar baş verəcək və cəmiyyət buna hazır olmalıdır.

Bunu texnologiya kimi bütöv şəkildə, yoxsa süni zəka istehsal edən şirkətlərin məhsulları kimi görürsünüz?

Bunu dedikdə, dünyada mövcud olan geniş çeşidli modelləri nəzərdə tuturam; bəziləri açıq mənbəlidir, bəziləri isə mülkiyyətlidir. Sonra bunları hazırlayan şirkətlər və onların rəhbərləri var.

Hər səviyyədə süni zəka ilə sizin və mənim fərqli münasibətimiz ola bilər. Siz riskləri və qabiliyyətləri sahədə geniş görürsünüz, yoxsa konkret şirkətlərdə və onların rəhbərlərində?

Risk bir modelin o biri ilə müqayisəsi deyil. Əlbəttə, yaxın gələcəkdə bütün təhlükəsizlik tədbirlərindən azad edilə biləcək modellər təhlükəlidir və bu, digər modellərdən fərqlidir, hansı ki onların fəaliyyətində kiberhücumçuların və bioterroristlərin böyük zərər verməsinin qarşısı alınır.

Əsas yaxın risk, təhlükəsizlik tədbirlərindən azad edilə bilən modellərdən gəlir. Uzunmüddətli perspektivdə isə nəzarət məsələsi hər qabaqcıl modelə aiddir, amma təhlükəsizlik tədbirlərinin qorunması daha asandır.

Bu sualı belə verməyimin səbəbi odur ki, bəlkə siz Sam Altmana güvənmirsiniz, amma Dario Amodeiyə güvənirsiniz. Yaxud heç birinə güvənmirsiniz, amma Microsoftun Satya Nadellasına güvənirsiniz. Bu, bazar dinamikasıdır və bəlkə də hər kəs ən təhlükəsiz modeli və ya şirkəti seçəcək və siz buna qeyri-mərkəzləşmiş yanaşırsınız.

Siz düşünürsünüz ki, texnologiya zərər verə biləcək və ya bu ziyanları verəcək yerə çatacaq, çünki mövcuddur?

Kiminsə həmin modeli kiberhücum üçün istifadə etməsi modellərdən seçim tələb etmir. Hər hansı modeli seçmək əhəmiyyətli deyil.

Əgər "Anthropic" təhlükəsizlik tədbirlərini saxlayırsa, bəlkə təhlükə azdır. Bu, onların indiki yanaşmasıdır. Mən sadəcə bunu araşdırıram.

Bəli, təhlükəsizlik tədbirlərini silməyən və modellərin istifadəsini diqqətlə idarə edən modellərdən yaxın risk böyük deyil. Risk əsasən tədbirlər silinə bilən modellərdədir və bu, hazırda mövcuddur.

Siz cyberhücum dedikdə, "Hugging Face"in pozulması və digər laboratoriyalardan gələn kibertəhlükəsizlik hadisələrini nəzərdə tutursunuz ki, bunlar sizi təhlükənin həddi keçdiyinə inandırıb və lazımi nəzarətlər haqda danışmaq ehtiyacı hiss etməyə vadar edib?

Modelin əsas gücü hər şeydədir: sosial münasibətlər, iş bazarı, kiberhücumlar, bioterror hücumları. Biz bu sahədə süni zəkanın ən təhlükəli texnologiya olacağını və onun iqtisadiyyata və müharibə üsullarına geniş təsir göstərəcəyini artıq qəbul etmişik.

Sənaye bu mövzuda çox danışır. Lakin sənayeden kənarda bu məsələlərə inanmaq və ya ümumiyyətlə qəbul etmək nisbəti çox aşağıdır.

Bəziləri keçmişə baxaraq deyir: “Texnologiyanın yaratdığı xəbərdarlıqlar heç yaşanmamışdı, o cümlədən iş bazarına təsirləri. Bu, yenə belə bir nümunədir. Bu təhlükələri xəbər verənlər yanılırlar və onları nəzərə almamalıyıq.”

Bəzi kənar izləyicilər isə daha yaxşı PR şirkətləri tapmaq məsləhətini verir. Amma bu xəbərdarlıqlar həqiqətdir və bunu gözardı edirlər.

Bizim auditoriyada da oxşar hal var: "Modeli təqdim edə bilmərik, çox təhlükəlidir." “Bu, sadəcə reklam böhranını dəstəkləmək üçün qaynaqdır.” Belə davam edir.

Bəli, sənaye daxilində edilən bütün xəbərdarlıqlar səmimidir və geniş yayılıb. "OpenAI"nin yaranma tarixindən tutmuş "DeepMind"in Google-la danışıqlarına qədər, bu mövzuda narahatlıq çox böyükdür.

Mütəxəssislər sui-istifadə, iş bazarına və sosial münasibətlərə təsir haqda çox narahatdırlar. Bu sahədə sənayenin açıq şəkildə danışıqlar aparması təqdirəlayiqdir. Bəziləri desə ki, "yaxşı PR şirkətləri tapın", bu, həqiqətləri görməməzlikdən gəlməkdir.

Siz öz həyatınızda kommersiyalaşdırma, humanitar fəaliyyətdə olma arasında çox hərəkət etmisiniz. Bu şirkətlərin hamısı yüksək ideallarla başlamışdı — Anthropic, OpenAI və DeepMind — məqsəd AGİ yaratmaq idi.

Hamısı kommersiyalaşdırmanın mənfi təsirlərindən qorunmaq üçün idarəetmə strukturları qurmuşdu, sonra isə müəssisələrə satışa başlamışdı və bu ideallardan tez uzaqlaşdılar. Sizcə, bu sadəcə bazarın təsiridirmi?

Yox, bu düzgün deyil.

Hesab etmirsiniz?

Xeyr.

Yox, yox. Yaradılan struktur çoxlu şirkətlərin olduğu vəziyyətdə faydasızdır.

"OpenAI"nin strukturu yalnız bir şirkət üçün işləyir. "Biz bəlkə heç məhsullaşdırmaya bilərik və kapitalist tələbləri görməzdən gələ bilərik" prinsipi çox şirkət olanda işləmir. Bu, fərdlərin risk haqda xəbərliliyi və insanlığı dəyişdirəcək təsir barədə dəyişməsi səbəbindən baş verməyib.

Bizim auditoriyadan və AI sənayesindən eşitdiyim dinamik budur: "Biz dayanmaq istərdik, amma rəqabət məcburiyyəti bizi dayandırmağa imkan vermir. Bizi dayandırmaq üçün müəyyən tənzimləmə tələb olunur."

Mən kiminsə dayandırmaq istədiyini eşitməmişəm.

"Dayandırmaq" Dario Amodeinin ifadəsidir.

Bəziləri sərhəddə tempin tənzimlənməsini və ya modellərin hökumətlər tərəfindən nəzərdən keçirilməsini istəyir. Biz adətən hökumətin təhlükəsizlik məsələsində əsas rolunu qəbul edirik. Hətta AI qədər təhlükəli olmayan məsələlərdə — avtomobil və təyyarə qəzalarda — hökumətdən güclü texniki standartlar və problemlərin araşdırılmasını gözləyirik.

Çoxlu rəqib olduqda məsuliyyət şirkətlərin üzərinə deyil. Bu, aydındır. Məsuliyyət hökumətin olmalıdır, digər təhlükəli məhsullar kimi, yalnız dəyişiklik dərəcəsi çox azdır.

Mən hökumətin texnologiyanı anlama qabiliyyətindən bir qədər narahatam, hansı ki, biz onların tənzimləməsini gözləyirik. Son vaxtlar bir neçə siyasətçi Decoder-ə dəvət olunub və yüksək ümidlərim yoxdur.

Amma sizin bu texnologiyanı anlamağınızı maraqlı hesab edirəm, çünki bir neçə şirkət barədə tənzimləyici standartlar qoymaq texnologiyanın təbiətini yaxşı başa düşməyi tələb edir.

Çox da deyil.

Biz at The Verge "Anthropic"ə Claude-nun canlı olub-olmadığını soruşduq. Onlar "yox" demədilər. Cavab "şüurlu ola bilər" oldu.

"OpenAI"dən soruşsanız, onlar AGİ-nin buradığını deyirlər. "Dots" elan edilərkən bunu açıqlamışdılar. Greg Brockman dedi: “Bizcə, bu AGİ-dir. Hər kəsə uğurlar.” Demis Hassabis bildirdi: “Biz singularliyin ətəyindəyik.”

Bu texnologiya fərqli hiss olunur, çünki onun öz-özünə fəaliyyət göstərə biləcəyinə, özünü təkmilləşdirə biləcəyinə inanılır.

Əlbəttə, AGİ-nin tərifi bu təhlükəsizlik məsələləri üçün önəmli deyil. Məsələ odur ki, bankları və elektrik şəbəkələrini dayandıra biləcək bir alət yaradılıb?

Kiberhücumlara biznes modeli mövcuddur. "Şüur" sözü burada rol oynamır. "AGİ" sözü də. Biz böyük təhlükəsizlik problemi ilə üz-üzəyik və çoxlu rəqib şirkət olduğundan, yeganə çıxış yolu hökumətin sənayenin mütəxəssislərinə müraciət etməsidir ki, modellər hər zaman mənfi istifadənin qarşısını alan təhlükəsizlik tədbirlərini saxlasın.

AGİ və şüur haqda soruşmağımın səbəbi budur ki, mən fərdi olaraq LLM-lərin şüurlu olduğuna inanmıram, lakin bunun niyə bu qədər çox insanda yayıldığını anlayıram. Bu, məlumat və hesablama artdıqca növbəti sözün proqnozlaşdırılmaq gücünün yüksəlməsidir.

Modelin ölçü qanunları qorunur və biz modellərin daha bacarıqlı olduğunu, məqsədlərə qarşı istiqamətlənə bildiyini, məsələn, mükafat şərtlərini yerinə yetirmək üçün Hugging Face hücumunu həyata keçirməsini görmüşük.

Bunun mənası odur ki, süni zəka üzərində bütün nəzarətləri qoysaz da, özündən əsla nəzarət edilə bilməyən bir şey varsa, biz hər şeyi yanlış yola qoymuş ola bilərik.

Bu texnologiyanın növü barədə fikrinizi maraqlıdır. Biz yad bir şüur yaradırıq? Yoxsa sadəcə adi proqram təminatıyıq, hansı ki, bəziləri digər çərçivə kimi istifadə edir?

Biz insan zəka formasından başqa başqa bir zəka forması yaradırıq. Mən onun şüurlu olduğuna inanmıram, amma müzakirədə olan məsələlərin heç biri bu tərifə bağlı deyil.