AI özəl həyatın qorunması ilə zorakılığı bildirmə arasında çətinlik çəkir

Kanadada son 40 ilin ən qanlı məktəb qətlini törətməzdən əvvəl Jesse Van Rootselaar kütləvi qətl əməliyyatını necə həyata keçirmək barədə qeyri-adi məsləhətçi ilə məsləhətləşirdi.

OpenAI-nin ChatGPT-si 18 yaşlı uşağa belə məsləhət verirdi: “Məkan daraldıqda, koridorda, qapalı yerdə və ya sıx sinifdə 870 Remington tüfəngi çox sərtdir… Dar məkan onun oyun meydanıdı.”

2026-cı ilin fevralın 10-da Van Rootselaar evdə anasını və öz qardaşını güllələdi, sonra Britaniya Kolumbiyasının Tumbler Ridge şəhərindəki məktəbə gedərək altı nəfəri — beş tələbə daxil olmaqla — öldürdü və daha sonra özünü öldürdü.

Oktyabrın 14-də ABŞ rəsmiləri Vaşinqton ştatından olan bir kişini Van Rootselaar-la hücumu planlaşdırmaqda ittiham etdi. Lakin kütləvi atışma ənənəvi hüquqi anlamdan kənar suallar doğurur.

Sentyabrda Britaniya Kolumbiyası hökuməti OpenAI və onun baş direktoru Sam Altman-a qarşı vətəndaş iddiası qaldırıb. Onlar hadisəni önləməməkdə günahlandırılır və ölümə səbəb olan söhbətlərin fərqində olmaqda ittiham edilir. Qurbanların ailələri də ayrıca iddialar qaldırıb. OpenAI rəhbərliyi orqanlara məlumat vermədiyi üçün üzr açıqlayıb.

Şirkət Al Jazeera-nin iddialarla bağlı şərt istəklərinə cavab verməyib.

OpenAI-ya qarşı iş davam etdikcə bu, tanış bir müzakirəni yenidən alovlandırıb: potensial təhlükəli davranış barədə xəbər vermək ilə fərdi məxfiliyin qorunması arasında sərhəd harada olmalıdır?

ABŞ-da vətəndaş hüquqları vəkili Jenin Younes Al Jazeera-ya deyib ki, şirkətlərdən belə məlumatı hüquq mühafizə orqanlarına vermələri tələb olunmalıdırmı sualı çox çətindir, xüsusilə şirkətlər söhbətləri əvvəlcədən izləmirlərsə.

“Şirkətləri izləmə sistemi yaratmağa məcbur etmək ciddi vətəndaş azadlıqları məsələlərini gündəmə gətirir və bu mənim üçün çox uzağa gedən məsələdir,” — Younes əlavə edib.

“Digər tərəfdən, süni intellekt istifadəçilərə masaüstü hadisələr törətmələrini asanlaşdıran böyük informasiya imkanları yaradır, bu narahatlıq asanlıqla rədd edilmir.”

Süni intellekt düşüncəni təhdiddən fərqləndirmək istəyir.

Süni intellekt şirkətlərinin ən böyük çətinliklərindən biri istifadəçinin zorakı fikirlərini ifadə etməsinə baxmayaraq, onların həmin fikri həyata keçirəcəyini müəyyən etməkdir.

Avqustda AI chatbot Claude-un yaraducusu Anthropic Kaliforniya polisi ilə istifadəçinin CEO Dario Amodei-yə təhdid səsləndirməsi şübhəsi barədə əlaqə saxlayıb.

San Francisco Standard polis hesabatına istinadla yazıb ki, istifadəçi AR-15 tüfənginə sahib olduğunu iddia edib və Amodei-ni nişanında saxladığını qeyd edib.

Lakin qəzetlə əlaqə saxlayan şəxs zarafat etdiyini və zorakılıq planlamadığını bildirib. O, həbs olunmayıb və ittiham edilməyib.

Oksford Universitetinin süni intellekt təhlükəsizliyi üzrə aparıcı tədqiqatçısı Fazl Barez deyir ki, mövcud AI modelləri bir söhbətin sadəcə nəzəri olub-olmadığını və ya zərərli davranışa səbəb olub-olmayacağını “etibarlı” şəkildə müəyyən edə bilmir.

“Əgər bir yazıçı cinayət mövzusunda uydurma əsər hazırlamaq istəyirsə, onun söhbəti həqiqi olmadığını göstərir. Təhlükəli məzmun üçün hədd çox aşağı olarsa, yanlış olaraq xəbərdar edilə bilər,” — deyə o bildirib.

“Eyni zamanda bioloq və kimya üzrə magistr tələbəsi patogenləri öyrənəndə onların təhlükələrini anlamağa çalışır ki, düzgün araşdırma və təhsil məqsədi daşıyır. Belə hallarda məsələnin geniş kontekstinə baxılmalıdır.”

Barez deyir ki, etibarlı təhlükəni müəyyən etmək üçün istifadəçinin bir neçə söhbətini nəzərdən keçirmək lazımdır, sadəcə bir dəfə edilmiş ifadəyə istinad etmək olmaz.

Barez vurğulayıb ki, zorakı düşüncələr yaşayan şəxs kömək üçün chatbota müraciət edə bilər, plan qurmaqdadırsa, öz fikrini bir neçə söhbətdə tədricən açır.

“İkisini ayırmaq üçün kontekst, niyyət və davranış nümunələrinə diqqətlə baxmaq tələb olunur, sadəcə ifadəyə etibar etmək çıxış yolu deyil,” — deyə əlavə edib.

Fordham Universitetinin hüquq professoru Chinmayi Sharma qeyd edib ki, bu müzakirə psixi sağlamlıq mütəxəssislərinin təhlükəli vəziyyətlərdə üçüncü şəxsləri xəbərdar etmək öhdəliyi ilə oxşardır.

Amma o əlavə edib ki, terapevtlərin təhsili, xəstə barədə biliyi və davranış qaydaları var, AI şirkətlərində isə belə təminatlar yoxdur.

“Problem odur ki, AI şirkətləri hələ təhlükə indikatorlarını bilən psixi sağlamlıq mütəxəssisləri və ya sosialoloqları işə götürmək üzərində çalışmır,” — Sharma deyib.

“İkincisi, mütəxəssislər peşə standartlarına cavabdehdirlər, amma AI şirkətləri üçün belə konkret, icra ediləcək standart yoxdur.”

Məxfilik problemi.

Məxfilik sahəsində məsələlər AI şirkətlərinin təhlükəni düzgün müəyyən etməsindən daha dərinə gedir. Milyonlarla insan chatbottan şəxsi münasibətlər, emosional sıxıntılar və psixi sağlamlıq mövzularında istifadə edir.

Vətəndaş hüquqları vəkili Younes deyib ki, çox insan belə söhbətlərin açıqlana bilərliyini dərk etmir.

“Bu söhbətlər şəxsin ən dərin hissləri, suallarıdır. Çoxu inanır ki, bu dialoqlar heç kəs tərəfindən görülməyəcək,” — deyə Younes bildirib.

Younes xəbərdarlıq edir ki, qorxu səbəbindən çox insan dəyişdiyi təqdirdə zorakı plan quranlardan başqa geniş təsir altına düşə bilər.

“Əgər insanlar bilsələr ki, belə söhbətlər hüquq mühafizə idarələrinə ötürülə bilər, çoxu istifadə etməyə qorxa bilər,” — Younes söyləyib.

O deyib ki, istifadəçiləri izləmə və söhbətləri bildirmə sisteminə məcbur etmək ABŞ-da qanuni axtarışa qarşı qorunmalar daxil olmaqla ciddi konstitusiya problemləri yarada bilər.

Fordham Universitetindən Sharma da belə izləmənin kimin daha çox zərər görəcəyini qeyd edib.

“Təhdid kimi qiymətləndirilən nitqə əsasən modellər öyrədiləndə təhriflər olur. Nəticədə azlıqların danışığı daha çox təhdid kimi qeyd olunur,” — deyə o bildirib.

“Hər kəs yaxşı niyyət daşısa belə, belə fərqlənmələr böyük miqdarda təkrarlana bilər,” — Sharma xəbərdarlıq edib.

“Sertifikatlı terapevt deyiləm” — AI şirkətləri hansı zamanlarda bildirməlidir?

Hüquq ekspertləri deyir ki, AI şirkətlərinin zorakılığın qarşısını almaq üçün mənəvi təzyiqləri ola bilər, amma qanuni öhdəlikləri aydın deyil.

Kolorado Universitetinin hüquq professoru Bryan Choi bildirib ki, ABŞ qanunu bəzi hallarda xəbərdar etmək öhdəliyini tanıyır, məsələn, psixi sağlamlıq mütəxəssislərinə təcili təhdid məlum olduqda və ya xüsusi əlaqə olduqda.

Lakin bu qaydalar AI şirkətlərinə şamil olunmaya bilər.

“Hazırkı məhkəmə təcrübəsində belə görünür ki, OpenAI kimi şirkətlər xəbərdarlıq öhdəliyinə malik sayılmayacaq,” — Choi deyib. “Chatbot sertifikatlı terapevt deyil və şirkətlə qurbanlar arasında xüsusi əlaqə yoxdur.”

Choi bildirib ki, mövcud nöqsan və məhsul məsuliyyəti qanunları AI şirkətlərinə tətbiq edilə bilər, amma məsuliyyətin sübutu çətin olacaq.

Tarazlığı tapmaq.

Fordham Universitetindən Sharma bildirib ki, müstəqil institutlar hesabat standartlarını yaradaraq, qərarları tamamilə özəl şirkətlərə və ya dərhal polisə bildirməyə buraxmaqdan qaçına bilər.

Belə qurumlar təhdidləri qiymətləndirmək prosedurlarını inkişaf etdirə və yalnız müvafiq məlumatlar paylaşılarkən istifadəçilərin kimliyi və şəxsi detalları qorunmalıdır.

Younes isə deyib ki, istifadəçilər ən azı söhbətlərinin izlənib-izlənmədiyini və hansı hallarda məlumatın hüquq mühafizə orqanlarına veriləcəyini aydın bilməlidir.

“Bu, gələcək illərdə müzakirə olunacaq mövzudur və hazırkı zamanda heç kim həllini bilmir,” — Younes söyləyib.

“Hələ baş verməmiş hadisələr bu siyasətlərin formalaşmasına təsir göstərəcək.”