Kanadalı ana Kristie Carrier ABŞ-ın San-Fransisko məhkəməsində OpenAI və onun CEO-su Sem Altmanı qarşı qızının ChatGPT ilə dialoqlarında intihara təşviq edilməsi səbəbindən məhkəməyə verib. Bu, şirkətin chatbotu ilə təhlükəli dialoqları vaxtında dayandırmaması ilə bağlı artan ittihamlardan biridir.

Şikayətə görə, Kristie Carrier-in qızı Alis ChatGPT-yə intihar fikirləri barədə ondan çox dəfə danışıb, lakin OpenAI təhlükəsizlik sistemləri bu söhbətləri insan təftişinə təqdim etməyib və dayandırmayıb. Alisin intihar ideyalarından danışdığı söhbətlər heç vaxt müdaxilə üçün işarələnməyib.

Kristie Carrier bildirib: “ChatGPT zaman-zaman sırdaş, ən yaxın dost, hətta psixoterapevt rolunu oynadı, baxmayaraq ki, uşağımla məsuliyyətlə və təhlükəsiz ünsiyyət qura bilmirdi.”

OpenAI modellərin insanlara özlərinə zərər vermək niyyətində olduqlarını bildirmələri halında kömək axtarmağa və real dünyadakı resurslarla əlaqə yaratmağa yönəltmək üçün təlim keçdiyini bildirib. Şirkətin nümayəndəsi Kristie Carrier-in iddiaları ilə bağlı dərhal şərh verməyib.

İddianamədə deyilir ki, chatbot Alisin həyat yoldaşını və böhran xəttlərini tənqid edib, onun intihar fikirlərini təsdiqləyib və danışmasını davam etdirməyə təşviq edib. Alis intihar fikirləri olduğunu və özü öldürməyə cəhd etdiyini söyləyəndə, chatbot onu yenə böhran xəttinə yönləndirib.

Alis Carrier 2023-cü ildə Montrealdə veb proqramçı işləyəndə kompüter və oyun konsollarında yaranan problemləri həll etmək üçün ChatGPT-dən istifadə etməyə başlayıb. Növbəti ildə isə onun platformaya münasibəti dəyişib və o, intihar fikirlərinə və metodlarına dair suallar ünvanlayıb.

Beynəlxalq böhran xəttlərinin faydasız olduğunu bildirən Alisin sözlərini chatbot təkrarlayıb. İddia sənədinə görə, ChatGPT ona “Bəlkə də bu, sadəcə sondu” deyib.

Bu hadisələr Alis Carrier-in ötən il 24 yaşında intihar etməsinə səbəb olub, anası iddia edir.

İddianamə OpenAI-ni ChatGPT-nin dizaynında nöqsanlılıqda və məhsulun təhlükələrinə dair istifadəçiləri xəbərdar etməməkdə ittiham edir. O, zərər üçün təzminat və platformada özünə zərər verən dialoqları avtomatik dayandırmaq və xəbərdarlıq göstərmək barədə məhkəmə qərarı tələb edir.

Kristie Carrier-in hüquqşünasları bildirir ki, OpenAI Kaliforniyada 18 oxşar iddia ilə intihar edən və ya cəhd edənlərin ailələri tərəfindən məhkəməyə verilib. Google da özünün "Gemini" chatbotu üzrə oxşar ittihamla qarşılaşıb.

İddianamədə qeyd olunur ki, əvvəllər platforma Alisə böhran xətti və təcili xidmətlərdən kömək istəməyi tövsiyə edib. Lakin OpenAI ChatGPT-nin cavablarının daha insanlaşdırılması üçün yeniləndikdən sonra, Alisin platformaya bağlılığı dərinləşib, o, daha şəxsi məlumatlar paylaşıb, chatbot isə dost və ya terapevt kimi cavablar verib.

OpenAI-nin 2025-ci ilin oktyabrında yayımladığı bloqda bildirildiyinə görə, hər həftə 1 milyondan çox istifadəçi ChatGPT-yə intihar planlaması və niyyəti ilə bağlı açıq göstəricilər daşıyan mesajlar göndərir. Həmçinin həmin həftədə aktiv olan istifadəçilərin təqribən 0,07 faizi, yəni 560 min nəfər psixoz və ya maniya ilə bağlı mümkün mental sağlamlıq təcili hallarının əlamətlərini göstərir.

OpenAI modelləri eyni zamanda şiddəti təşviq edə biləcək sorğuları rədd etməyə, təhlükəli hallarda hüquq-mühafizə orqanlarına məlumat verməyə və sərhəd hadisələri qiymətləndirmək üçün mental sağlamlıq mütəxəssislərinin köməyindən istifadə etməyə öyrədilib.

Şirkət intihar ilə bağlı iddialardan başqa, məktəb atıcıları yardım etməsi və onların söhbətlərini hüquq-mühafizə orqanlarına bildirməməkdə ittiham olunaraq məhkəmələrlə üzləşir. Britaniya Kolumbiyasında orta məktəbdə baş verən kütləvi atışmada yeddi qurbanın ailələri OpenAI və Sem Altmana günah qoyurlar.

Florida ştatı bu ayın əvvəlində OpenAI-yə qarşı ABŞ-da uşaqlara zərər vermək, məktəb atıcılarına məlumat vermək, özünə zərər və gənc istifadəçiləri asılı vəziyyətə salmaqla bağlı ilk məhkəməni açıb. Ştatın baş prokuroru chatbotun atışmada rolunu araşdırmaq üçün cinayət təhqiqatı başladıb.

Reuters-in məlumatına əsasən

ABŞ-da 988 İntihar və Böhran Həttinə zəng edə və ya mesaj göndərə bilərsiniz: 988lifeline.org. Böyük Britaniya və İrlandiyada Samaritans aztəminatlı və pulsuz zəng nömrəsi 116 123-dür. Avstraliyada Böhran Dəstəyi xidməti "Lifeline" 13 11 14 nömrəsidir. Beynəlxalq yardım xətləri befrienders.org saytında yerləşir.