Aliyah adlı yüngül dərili qaradərili qadın kənd-qərb geyimində TikTok-da əl işləri metal kəmər tokalarını satmağa çalışır. Mart ayında sosial media üçün çəkilən videoda o, kameraya ağlayaraq baxışlar üçün yalvarır: “Qara qadın olsam da, ağ qadınların bu videoda 13 saniyə qalaraq kəmər toka işimi xilas edəcəyinə inanıram,” ekran mətnində yazılıb. O, yanağından yaşını silir.

Lakin Aliyah həqiqi deyil və onun iddia edilən əl işləri məhsulları də gerçək deyil. O, TikTok, Facebook və Instagram-da dropshipping vasitəsilə kütləvi istehsal olunan məhsulları satan çoxsaylı süni intellektlə yaradılan influencerlərdən biridir. Eynilə, günəbaxan dizaynlı, ayırılan bıçaqla tokalar sürətli moda saytı Shein saytında dörddə biri qiymətinə satılır.

Videonun süni intellektlə hazırlandığını göstərən əlamətlər var. Aliyahın səsi robotik və duyğusuzdur, bu isə ekranda ağlayan üzü ilə uyğun gəlmir. Bir kadrda o, adi halda tikilməyən dəri kəməri tikir. Yanağındakı yaşı sildiyi zaman maye axını da yox olur. TikTok-da buna bənzər, fərqli süni intellektlə yaradılmış obrazlarla çoxlu oxşar videolar dolaşır. Məsələn, “Aliyahsbuckles” adlı hesabda eyni fon, masaüstü və sap rulosu görünür.

The Verge TikTok-da onlarla oxşar hesab tapıb. Bu hesablarda dropshipping məhsulları — kəmər tokaları, kovboy çəkməsi formalı fincanlar, toxunma çantalar və kardiqanlar satılır. Bəzi videolarda bunun süni intellektlə yaradıldığı qeyd olunur. Oxşar hesablar Instagram və Facebook-da da fəaliyyətdədir. Hesabların demək olar ki, bütün aspektləri süni intellektlə yaradılıb — videodakı obrazdan, avtomatlaşdırılmış şərh cavablarına, hətta bəzilərində Afrika Amerika ləhcəsini təqlid etməyə çalışanlar da var. Ekspertlər bildirir ki, belə fırıldaqçılıqlar sürətlə artır.

“Bu mövzu çox genişdir,” deyə süni intellektlə yaradılan medianın tədqiqatçısı və Riddance.ai təşkilatının direktoru Jeremy Karrasko The Verge-ə açıqlamasında söyləyib. O bildirib ki, çoxu əlaqələndirilməyib, bəziləri əlaqələndirilib. Bir və ya bir neçə süni intellektlə yaradılmış aktyor bir çox mağazanı idarə edir. Bu avatarlar məhsulların hazırlanmasını göstərir, sərgilərdə iştirak edir və avtomatlaşdırılmış şərhlərə cavab verir. Hazırda gördükləri pərakəndə dələduzluqlardır ki, onlar Shopify saytlarına yönləndirirlər.”

Karrasko qeyd edir ki, onun tədqiqat qrupu gündə təxminən 100 belə hesab aşkar edir. The Verge-in tapdığı hesabların çoxu son iki ayda yaradılıb və marjinal qrupa aid kiçik bizneslərlə bağlı videolar paylaşır. Bu videolar ssenarilər baxımından çox oxşardır. Biz həmçinin Amerikan Yerliləri, Hispanik və ağ qadın obrazları tapmışıq, amma ən çox baxış və interaktivlik qara qadın obrazları ilə əlaqəlidir. Yalnız Aliyahın hesabında 40 min izləyici var.

“Gördüyümüz əsas məqsəd həmrəylik qazanmaqdır,” deyə Karrasko bildirib. “Əgər populyar dropshipping məhsulu müəyyən icmaya sata bilirlərsə, onu tapıb şəxsiyyəti istifadə etməyə çalışırlar.” O əlavə edib ki, bunlar adətən təsadüfi qazanc fürsətləridir. “Bu, platformalar üçün əhəmiyyətsiz fürsətdir və insanlar fərq etmirlər.”

Aliyahın ən məşhur videosu 814 min bəyənmə, 6,5 milyon baxış və təxminən 30 min şərhə malikdir. Bəzi şərhlərdə videonun süni intellektlə yaradıldığı bildirilir, amma çoxu işinə dəstək olmaq istəyir və izləyicilərin sayını artırmaq üçün şərh yazır.

İndi Keter-Kempbel həmin şərhlərdən biri idi; o, Aliyahın kəmər tokalarını almaq istəyirdi. Seattleda kafe açan həqiqi qaradərili sahibkar Keter-Kempbel belə deyib: “Müstəqil qara iş qadınına dəstək olmaq istəyirdim. Mən də iş qurmağa çalışıram və həmrəylik hissi keçirdim.”

Son nəsil süni intellekt video modelləri üzrə araşdırmalar azdır, amma Karrasko hesab edir ki, videolar çoxlarına aldatmaq üçün kifayət qədər realdır. Qısa video platformalarında istifadəçilər məzmunu diqqətsizcə izləyir və dərindən yoxlamır. Ironik olaraq, bu, Keter-Kempbeli kəmər tokası almaqdan xilas edib. Mağaza linki tapmadığı üçün videodan uzaqlaşıb və Aliyahı unutub.

“Müstəqil qara iş qadınına dəstək olmaq istəyirdim.”

Amma insanlar belə dələduzluqlara aldanır və bu hallar artır. İki həftə əvvəl Potomakın Real Xanımları serialından Gizelle Brayant iki toxunma çanta aldığını etiraf edib. O, belə bir videoda süni intellektlə yaradılmış qaradərili oğlanın toxumağa görə ağ dərili uşaqlar tərəfindən təhqir edildiyini izah edirdi. “Düşündüm ki, mən bu kiçik qaradərili uşağa yardım etmək istəyirəm,” deyib Brayant "Reasonably Shady" podkastında. O əlavə edib ki, şərh bölməsində başqa məşhurlar da var idi. “Necə aldanmışam? Viola Devis də oradaydı.”

Bu tendensiyanı Pensilvaniya Universitetində kommunikasiya tədqiqatçısı Sienna Devis dijital qara üz maskasına bənzədir. “Dijital qara üz maskası qara olmayanların internet və rəqəmsal texnologiyalar vasitəsilə qara mədəni ifadəsini şəxsi, iqtisadi və ya siyasi məqsədlər üçün təqlid etməsidir,” deyə o video zəngdə izah edib. Devis əvvəllər bununla bağlı yazıb, qara insan giflərinin istifadəsi və qara şəxslərin siyasi məqsədlə təqlid edilməsini vurğulayıb. “Bu, quldarlığın mirası olan qara üz minstrelsiyasına əsaslanır,” deyə əlavə edib.

Dijital qara üz maskası qaradərili bədənlərdən istənilən şəkildə dəyər almaq üçün istifadə olunur, xüsusilə qara dəriliyin “təbiətən istismara açıq” olduğu fikri əsasındadır. Bu videolarda “qara mübarizənin tanınan fikri” təqlid edilir.

Fisk Universitetindən fəlsəfə üzrə assistent-professor Tempest M. Henning qeyd edir ki, bu avatarların qaradəriliyi əsassızdır. “Avatar adları Aliyah və Amaya kimi qaradərilik imici verir, amma avatarın özü xaricində heç bir autentik qaradərilik işarəsi yoxdur.” O, bunun irqi məzmunun səthi aşağılanması olduğunu vurğulayır və bunun irqlərin səthi surətinin yayılmasına səbəb olduğunu bildirir.

The Verge Aliyahsbuckles və oxşar mağazalara müraciət edib, amma cavab almayıb.

Aliyahın hesabındakı videolar dropshipping məhsulları satan digər oxşar hesabların videoları ilə səhnə-səhnə bənzəyir. Başqa bir videoda Amaya adlı qaradərili qadın ağ qadının sərgidə nümayiş olunan kəmər tokalarına qəhvə tökməsini göstərir. Amaya robotik və qeyri-təbii duyğularla əsəbiləşərək işini davam etdirir. Bu səhnə "ChubbyKnots" adlı hesabda mövcuddur; burada avatar qara qızdır və məhsul toxunma kəpənək şəklində kardiqandır.

Henning deyir ki, videolar insanlara yaxşılıq və ya irqi, sinfi həmrəylik hissi göstərmək məqsədi güdür. “Bu, əxlaq nümayişidir; insanlar düşünür ki, ‘O ağ qadın belə etdi, amma mən belə deyiləm, bəs məhsulu haradan alım?’” deyir. “Onlar bildirirlər ki, mən bu insanlarla birlikdəyəm.”

Henning əlverişsiz sinfi və ya irqə əsaslanan dəstəyin səthi olduğunu əlavə edir, çünki izləyicilər dəstəklədikləri şəxsi araşdırmırlar.

Bu, qısa videoların və "doldurulmuş" məzmunun daha geniş sosial nəticəsi ola bilər. Həmrəylik çox vaxt səthidir, çoxşaxəli və siyasətlə bağlı deyil. “Mən qaradərili sahibkara çox bağlı ola bilərəm, amma bu o demək deyil ki, bütün qaradərili bizneslər mənim siyasi mövqeyimə uyğundur,” deyə Henning açıqlayıb.

Devis bildirir ki, bu əxlaq nümayişi irqdən kənarda digər siniflərə də aiddir və işçi sinfin işgüzarlığını simulyasiya edir. “Bu yalnız qaradərili mübarizə deyil, çünki videolarda işçi sinfi və kiçik biznes mübarizəsi də var. Lakin bu, kütləvi məhsulların satışı üçün istifadə olunur və sırf süni intellektlə yaradılan şablon personajlardır. Bu, ümumi olaraq 'ağ günahı'ndan daha geniş anlayışdır, çünki məhsulla artıq əlaqəlidir.”

Karrasko deyir ki, irqi şəxsiyyətlərin səthi azaldılması və algoritmlər (yaradıcılarda şüurlu və şüursuz irqi qərəzlərin davamı) istifadəçilərə maraqlarına uyğun süni intellektlə yaradılan məzmun təqdim edir. Məsələn, kasıb qara qadın görən algoritm ona qara süni intellekt personajları göstərir, başqa halda asiyalıya Asiyalı AI personajları.

Detallı yoxlama edəndə süni intellekt işarələri asan görünür. Xarakter ekranda uzun müddət qalmır, çünki AI proqramları 15 saniyədən artıq video hazırlaya bilmir. Məhsullar göstərilərkən işıq daha parlaq olur, tokaları tutan əllər ağ dərilidir. Xarakterlərin üz ifadələri və səsi uyğun gəlmir.

Amma bunu anlamaq üçün geniş yayılmış AI mediaya savadlıq tələb olunur. Videolar sürətlə yayıldığı üçün, texnologiya daha real avatarlar üzrə avtomatlaşdırmaya doğru gedir. “Media savadı olmayanlar videoya inanacaq,” deyir Devis.

Qısa video platformaları — dezinformasiyanın başlıca kanallarıdır. İstifadəçilər diqqətsiz qalmağa öyrəşib, onlar növbəti videoya keçmək üçün proqramlaşdırılıblar. “Bir-iki saniyə AI məzmun olduğunu başa düşmək üçün lazımdır, onda artıq reaksiya verilib,” Karrasko əlavə edib.

Bunlardan qazananlar bunu yaxşı anlayır və AI ilə yaradılan reklamlar üçün alətlər internetdə geniş yayılıb. Yazı hazırlanarkən The Verge YouTube kanalları, təhsil forumları tapıb ki, necə mürəkkəb influencer ssenarisi olmadan belə reklamlar yaradılsın. ChatGPT və Gemini real influencer videolarından ssenariləri götürüb variantlar hazırlayır. Real influencer və fon fotoşəkilləri süni intellekt tətbiqlərinə idxal olunur. Bəzi AI video generatorlarında real influencer videoları tətbiqə tam yüklənir və istifadəçi orijinal şəxsi ya süni intellektlə yaradılan obrazla əvəz edir, ssenari və fon oğurlanır.

Media savadı fərdi istifadəçilərin süni intellekt videolarına aldanmasının qarşısını almağa kömək edə bilər, amma sosial media platformaları bu məzmunu effektiv şəkildə moderasiya və ən azından etiketləşdirə bilmir. “Platformalar daha güclü AI aşkarlama və etiketləmə mexanizmləri qurmalıdır,” deyir Devis. “Bu platformalarda qərəz yoxlamaları da faydalı olar.”