Discord süni intellektlə idarə olunan moderasiya sistemində səhv nəticəsində iki ay ərzində 8 minə yaxın istifadəçi bloklanıb. Bu, xərçəng, cədvəllər, şahmat taxtaları, oyun teksturaları və ağ, boz şəffaf fonlar kimi zərərsiz şəkillərin zərərli məzmun kimi yanlış təsnif olunması səbəbindən baş verib.

Şirkət təsdiqləyib ki, problem may ayından davam edirdi və həftə sonu əlavə 200 istifadəçi bloklandıqdan sonra texniki səhv aşkar edilərək aradan qaldırılıb. Bütün təsirlənmiş hesablar hazırda bərpa olunur.

Hadisə, bir çox platformanın qanunsuz və təhqiredici məzmunu aşkar etmək üçün avtomatlaşdırılmış sistemlərdən istifadə etməsinin yaratdığı çətinlikləri göstərir.

X platformasında yayılan məlumatda Discord bildirir ki, avtomatik təhlükəsizlik sistemləri yüklənmiş məzmunu məlum zərərli material bazaları ilə müqayisə edir. Texnologiya qanunsuz məzmunu tutmaq üçün nəzərdə tutulub, lakin bəzən yalnış pozitivlər yaranır. İnsan moderatorlar məzmunu yoxlayır, amma səhv üzündən sistem dərhal təsirə məruz qalmış hesabları bloklayıb.

Şirkət yazıb: “Bunun təkrar baş verməməsi üçün daha yaxşı təhlükəsizlik tədbirləri üzərində işləyirik.”

Reddit və X istifadəçiləri kvadrat şəbəkə naxışlı şəkillərin yüklənməsi səbəbindən daimi bloklanmaların baş verdiyini bildiriblər. Bir neçə istifadəçi Discord-un süni intellekt moderasiya vasitələrinin əvvəlcə daha çox NSFW və uşaq istismarı kimi məzmunu gizlətmək üçün istifadə olunan şəbəkə naxışlarına həssas olduğunu proqnozlaşdırıb.

Təsirlənmiş istifadəçilər sosial şəbəkələrdə narazılıq ifadə edərək, yalnız avtomatlaşdırılmış aşkar etmə əsasında daimi bloklanmanın ciddi nəticələri ola biləcəyini vurğulayıblar. Xüsusən Discord-u iş, oyun icmaları və uzaq məsafəli əlaqələr üçün istifadə edənlər üçün bu, problem yaradır.

Bir X istifadəçisi yazıb: “Belə ədalətsiz səbəbdən Discord hesabını itirmək çox dağıdıcıdır və istifadəçilərə ciddi təsir edir. Hər gün milyonlarla insan yalnış AI bloklanmasına məruz qalır. Bu dayandırılmalıdır.”

Discord tək avtomatlaşdırılmış sistemlərin yaratdığı moderasiya problemləri ilə üzləşmir. Ötən il Instagram və Facebook Groups istifadəçiləri izah olunmamış kütləvi bloklanmalar barədə şikayət ediblər. Çoxları bunun süni intellekt moderasiya sistemlərinin səbəb olduğunu güman edir. Lakin Meta AI-nın səhvlərinə ictimai təsdiq verməyib. İndi Meta-nın Nəzarət Şurası artırılmış şəffaflıq tələb edir.

Həmçinin Tumblr ötən il istifadəçilərin şikayətləri ilə qarşılaşıb. Onlar hesabların izah edilmədən kütləvi dayandırıldığını bildiriblər.