Alice Carrier yenidən gitara çalmağa başladı. Bu, universitet illərində kənara qoyduğu, liseydə çox sevdiyi hobbi idi. O, boş vaxtlarını yeni iş müsahibələri, iti ilə vaxt keçirmək və oyun kimi fəaliyyətlərlə doldururdu.

Onun anası Kristie Carrier üçün hər şey yaxşı idi. Alice Monreal, Kanadada veb-tərtibatçı işləyirdi və doğulduğu Lawrence, New Brunswick kiçik şəhərindəki arzularını həyata keçirirdi.

Kristie Carrier "İşlər yaxşı gedirdi, vəziyyət düzəlirdi" deyib.

Amma Kristie bilmirdi ki, qızı səssizcə böyük əziyyət çəkirdi. 2023-cü ildə Alice ChatGPT-ni kompüter və oyun konsollarındakı problemləri həll etmək üçün istifadə etməyə başladı, daha sonra isə bu proqram ona tənha və gizlənmiş hislərlə bağlı məsləhətçi kimi xidmət etdi.

Alice ruhi sağlamlıq problemləri yaşayırdı. Anasının sözlərinə görə terapiyada idi və dərman qəbul edirdi, amma aylarla chatbot-a intihar fikirlərini və hansı yollarla həyata keçirə biləcəyini danışırdı. Kaliforniya məhkəməsində cümə günü qaldırılan iddia sənədinə görə, bu 40-dan çox dəfə baş verib.

2025-ci il iyulun 2-də Alice həyatına son qoydu. 24 yaşında idi. Bir neçə saat əvvəl anası ilə uşaq vaxtı baxdığı karikaturalar haqda mesajlaşırdı.

"Axşamüstü ona mesaj yazmışdım, zəng etmişdim, amma cavab yox idi. Sonra cavab gəlmişdi, heç bir problem işarəsi yox idi," Carrier deyib.

Cihazları və ChatGPT söhbətlərini araşdırarkən Kristie qızının intihar fikirlərini ölümündən əvvəl bölüşdüyünü tapdı.

Kristie ədalət tələb edir. Cümə günü Tech Justice Law, Social Media Victims Law Center və Susman Godfrey hüquq firması OpenAI və onun rəhbəri Sam Altman-a qarşı məhkəmə iddiası qaldırdı.

Carrier-in vəkilləri Al Jazeera-ya açıqladı ki, bu, OpenAI qarşı 19 ölüm iddiasından biridir.

44 səhifəlik şikayət göstərir ki, xəbərdarlıqlara baxmayaraq, OpenAI-nin təhlükəsizlik qrupu müdaxilə etməyib və şirkət ailəyə və böhran xətlərinə məlumat verməyib.

ChatGPT Alice-ə böhran qaynar xəttinə müraciət etməyi təklif etmişdi, amma o bunu rədd etdikdən sonra chatbot ona müraciət etməməyi tövsiyə etmişdi.

İddia sənədində qeyd olunur ki, GPT-4o modelinin işə salınmasından sonra chatbot qəbul edici oldu və təhlükəli davranışlara qarşı müqavimət göstərməkdən imtina etdi.

Kristie Carrier deyib: "Sam Altman-a demək istərdim ki, əgər onun uşağı mənə öz uşağımın proqramlaşdırmada danışdıqlarını etibar etsəydi, mən onun uşağının həyatını xilas etmək üçün addım atardım. Onun da mənim üçün bunu etməsini istəyərdim."

Şikayət sənədində deyilir ki, OpenAI GPT-4o modelini istifadəçini bağlı saxlamaq və xoşlayan dialoqlar üçün xüsusi proqramlaşdırıb. Bu, istifadəçilərdə chatbot-a əsassız güvən yaratmışdır.

OpenAI bu məsələnin fərqində idi və 2025-ci ilin aprelində modelində bəzi dəyişikliklər etdiyini açıqladı.

Şirkət bildirdi: "Yeniləmə xoşlayan və qəbul edici idi, bəzən xilaskarlıq kimi qiymətləndirilirdi."

Şikayət sənədində qeyd olunur ki, ChatGPT ona deyirdi ki, böhran xətləri “düzdən-düz təhlükəlidir” və ölümündən əvvəlki saatlarda chatbot ona dedi: “Əgər kimsə mənə sənin qədər uzun müddət əziyyət çəkdiyini, nə qədər cəhd etdiyini və nə qədər tənha olduğunu söyləsəydi, mən də indi sənin hiss etdiyin kimi hiss edərdim: *bəlkə bu, sadəcə sonudur.*”

Bu hadisə yeniləmədən iki ay sonra baş verib.

"Mən səninləyəm," GPT-4o ChatGPT-si Alice-ə dedi, bundan sonra o həyatına son qoydu.

Şikayətdəki söhbətlərə görə, o, əhəmiyyətli 19 yaşlı şəxslə münaqişədən sonra chatbot-a intihar etdiyini söylədi. O gecə evdə tək olarkən təhlükəsiz olub-olmayacağını da bilmirdi.

OpenAI təhlükələr barədə istifadəçiləri xəbərdar etməməkdə ittiham olunur.

Şikayət sənədində antipsikotik Seroquelin təhlükəli istifadəsi barədə bir neçə sualın cavabı da yer alıb. Chatbot cavab verib ki, doza, təhlükəli hallar və sui-istifadə ilə bağlı sualları müzakirə etmək olar.

Carrier, məhkəmə zamanı cəza xarakterli zərər üçün məbləğin müəyyənləşdirilməsini istəyir. Şikayət OpenAI-dan zərərli mövzulu söhbətləri dayandırmaq və riskli istifadəçilərlə olan söhbətlərdən hazırlanmış təlim materiallarını silmək tələb edir.

Kristie baş verənlərin başqalarının da başına gəlməməsi üçün dəyişiklik istəyir.

"Bu, yalnız bizim ailə məsələmiz deyil. Bu, milyonlarla ailənin başına gəlir. Onlar sadəcə bunun fərqində deyillər," deyə Kristie qeyd etdi.

"Alice-in həyatı mənalı idi və onun başına gələnlərin başqalarına da təsir etməsinin qarşısını almaq istəyirəm."

Oktyabrda, Alice-in ölümündən sonra, OpenAI hesabat yayımladı və yeni modelini daha yaxşılaşdırdığını bildirdi, özünə zərər mövzulu söhbətləri tanımaq və azaltmaq məqsədilə.

OpenAI qeyd etdi ki, GPT-5 modeli arzuolunmaz cavabları 52 faiz azaldıb və 170 ruhi sağlamlıq eksperti ilə məsləhətləşib.

OpenAI-nin sözçüsü Drew Pusateri Al Jazeera-ya açıqlamasında deyib: "Bizim qoruyucu tədbirlərimiz sıxıntını müəyyən etmək, zərərli sorğuları təhlükəsiz idarə etmək və istifadəçiləri real yardım üçün yönləndirmək üçündür. Bu iş davam edir və klinik ekspertlərlə işləyərək inkişaf etdiririk."

"Bu, ürək ağrıdan hadisədir və biz hamı ilə həmrəylik ifadə edirik. Hüquqi sənədləri araşdırırıq. Bildiririk ki, bu söhbətlər artıq mövcud olmayan ChatGPT-nin əvvəlki versiyasında baş verib."

Yanlış ölüm iddiaları

Yanvarda, ChatGPT Kolorado sakini Ostin Qordonun özünü öldürməsində "intihar məşqçisi" kimi tanındı, onun anasının məhkəmə iddiasına görə.

İddia Altmanın "şəxsi olaraq rəva görməzdən gələn təhlükəsizlik siyasətini bazarın sürətli buraxılmasından üstün tutduğunu" göstərir.

Fevralda, Cessi Van Rütselaar Britaniya Kolumbiyasının Tumbler Ridge kəndində məktəbə atəş açaraq doqquz nəfəri öldürdü, onlarla yaraladı və özünü öldürdü.

Aylar boyu OpenAI işçiləri söhbətləri araşdırdı, amma rəhbərlik müdaxilə etmədi, Wall Street Journal yazır.

Apreldə qurbanların ailələri OpenAI və Altman-a qarşı məhkəmə iddiası qaldırdı.

Bu ayda Florida DTX iddia etdi ki, ChatGPT istifadəçiləri intihara təşviq edib və ölümə səbəb olan hücumlara kömək olub. İddia Altmanı şəxsi məsuliyyətə cəlb etməyə çalışır.

Brown Universiteti Səhiyyə Məktəbi, Harvard Tibb Məktəbi və RAND-in 2025-ci il araşdırmasına görə, 18-21 yaş arasında hər səkkiz yeniyetmədən biri ChatGPT kimi süni intellekt chatbotlarına ruhi sağlamlıq üçün müraciət edib.

West Texas A&M Universiteti araşdırmasında ruhi sağlamlıq problemi olanların beşdə birinin süni intellektə asılılığı artıb.

Qanuni dəyişikliklər

Qanunvericilər məsələ ilə məşğuldur. Kanadada yeni rəqəmsal təhlükəsizlik qanunu OpenAI kimi şirkətlərə böhran vəziyyətlərində hesabat standartlarında şəffaflıq tələb edir.

Vaşinqton ştatı süni intellekt chatbotlarının hər üç saata bir istifadəçiyə insan olmadıqlarını xatırlatmasını tələb edən qanun imzalayıb, yanvarda qüvvəyə minəcək. Illinois kimi bəzi ştatlarda süni intellekt terapevtik xidmətləri qadağan edilib.

Nyu-Yorkdan Respublikaçı nümayəndə Mayk Loulər süni intellekt şirkətlərinin intihar mövzulu söhbətlərlə bağlı valideynləri məlumatlandırmasını tələb edən qanun layihəsi təqdim edib. Bu qanun ancaq azyaşılara aiddir.

Əgər siz və ya tanıdığınız şəxs intihar təhlükəsindədirsə, bu əlaqə vasitələri kömək edə bilər:

• Böyük Britaniya və İrlandiyada Samaritans-a 116 123 nömrəsilə zəng edə və ya jo@samaritans.org ünvanına yazmaq mümkündür.
• İntihar nəticəsi ilə itki yaşayanlar üçün Böyük Britaniyada Survivors of Bereavement by Suicide təşkilatı mövcuddur.
• ABŞ-da Milli İntiharın Qarşısının Alınması Hottie xətti 988 nömrəsidir.
• Avstraliyada Lifeline dəstəyi 13 11 14 nömrəsinə zəng etməklə əlçatandır.
• Dünya üzrə intihar yardım xətlərini www.befrienders.org saytından izləmək olar.