Keçən həftə fanworks hərəkatı başladı və məqsəd generativ süni intellektdən istifadə edən müəllifləri aşkar etməkdir. Ancaq indiki aşkarlama üsulları şübhəlidir və hər hansı bir fanfik yazarı bu gərginliyin içində ola bilər.

Geniş narazılıq Claude, ChatGPT və digər süni intellekt alətlərinin istifadəsinə qarşı uzun müddətdir yaradıcı icmalarda, o cümlədən fanfiction dünyasında müzakirələr getməkdədir. Oxucular və yazıçılar süni intellekt tərəfindən yaradıldığından şübhələndikləri əsərləri aşkar etmək üçün müxtəlif metodlar – em dashlardan tutmuş geniş anlayışa qədər olan üsullar – paylaşırlar. Lakin iyunun 29-da anonim bir @heatedrivalryai adlı X hesabı daha etibarlı kimi görünən bir həll təklif etdi. O, məşhur fanfik arxivi Archive of Our Own (AO3) üçün skini yayımladı. Bu skin Anthropic-in Claude botunun buraxdığı kod qalıqlarını aşkar edə bilirdi.

“Claude tərəfindən yaradılan cavab AO3-ə birbaşa yapışdırılanda, mətn ‘font-claude-response-body’ adlı, Claude tərəfindən əlavə edilmiş kodla bükülür,” deyə @heatedrivalryai bildirib. “Bu kodun olması Claude istifadəsini qəti şəkildə göstərir.” İstifadəçi həmin kodu olan səhifəyə daxil olandan sonra, skin bütün fonu qırmızı rəngə çevirir.

Bir neçə test postu AO3-ə yerləşdirilib ki, istifadəçilər funksiyanı yoxlaya bilsinlər. Mən də həmin nümunələrə qarşı skini sınadım və ekran dərhal qırmızı oldu. Özümdə Claude tərəfindən yaradılmış qısa hekayəni yayımlayaraq təcrübə apardım. Chatbottan birbaşa yapışdırdığım mətn qırmızı ekran göstərdi, lakin eyni hekayəni Claude-dan gəlməyən şəkildə yapışdıranda bu ekran yox oldu.

Claude aşkarlayıcı postu, arxa plan qalıqlarının aşkarlandığı nümunələrlə birlikdə paylaşdı. Anonim yaradıcı bu sistemin işlədiyini göstərmək üçün bunu etdiyini bildirdi və bunun “etimadsızlıq mühiti yaratmaq və müəyyən istifadəçiləri ittiham etmək üçün olmadığını” vurğuladı. Amma fanfik icmaları aləti istifadəçilərin əsərlərini ictimai şəkildə adlandırıb ifşa etməyə başladı. Yaradıcı süni intellekti müsbət bir şey hesab etmir. O qeyd edib: “Fandom özünəməxsus, əlaqələndirici və əməkdaşlıq məkanıdır. Bu məkan insan elementi və onun yaradıcılıq qığılcımı üzərində inkişaf edir. Əgər biz bilmədən AI-nin bu məkanları korlamasına imkan versək, onlardan nə qalacaq?”

Anthropic şirkəti mənim müraciətimə cavab vermədi və fan tərəfindən hazırlanmış Claude aşkarlayıcısının təsvir olunduğu kimi işlədiyini təsdiqlədi. Bütün bunlara baxmayaraq, metodologiya etibarlı görünür və bizim də apardığımız sınaqlarda təsdiqləndi. Əgər bot istifadə olunmayıbsa, hekayədə Claude kodunun olması üçün görünən səbəb yoxdur. Lakin yanlış neqativlər və ümumiləşdirmə riski mövcuddur.

Əlaqədar

• Gənclər AI-dən nə qədər çox istifadə edir, onu bir o qədər çox nifrət edirlər
• Həqiqətən, bunu AI olmadan hazırladın? Sübut et
• AI etiketləmə sistemləri üçün mövcud vaxtdır

Kodun bükülməsi yalnız mətn birbaşa Claude-dan AO3 redaktoruna yapışdırıldıqda saxlanılır. Bu səbəbdən Google Docs və ya Microsoft Word-də redaktə edilərək AO3-ə köçürülən mətnlər aşkarlanmayacaq. Peşəkar yazıçı olaraq bilmək istəyirəm ki, CMS-də birbaşa yazmaq nə dərəcədə risklidir. Bayraq qoyulan bəzi müəlliflər artıq əsərlərini qalıqları silmək üçün yeniləyib və gələcək işlər bu alətdən yayınacaq.

Digər tərəfdən, bu etiket Claude-un əsərdə nə qədər istifadə olunduğunu göstərmir. Qırmızı fondakı ekran hekayənin tamamilə süni intellekt tərəfindən yaradıldığı mənasına gələ bilər və ya müəllifin az sayda insan yazısı cümləsini yoxlama və ya tərcümə üçün Claude-a göndərib sonra yenidən AO3-ə yapışdırması da mümkündür.

Bəzi fandom üzvləri isə generativ süni intellektdən hər hansı istifadəni geniş yaradıcı icmaya qarşı xəyanət kimi qiymətləndirirlər. Onların arasında texnologiyanın ətraf mühitə təsiri və onun açıq internetdən məlumat toplamasına görə narazılıq da var. Bu proses AO3 kimi platformalara yüklənən fanworks-ları da əhatə edə bilər.

Bu alətin tətbiq sahəsi məhduddur. AO3 fanworks nəşr etmək üçün yeganə platforma deyil və Claude yalnız AI modellərindən biridir. Ən azı bir şəxs iddia edir ki, “Claude, Deepseek və bəzi ChatGPT” istifadəni aşkar edən ayrıca kod yazıb, amma bunu ictimaiyyətə təqdim etməyib və iş prinsiplərini açıqlamayıb. Mən Google və OpenAI-yə həmin modellərin oxşar üsullarla aşkar edilə bilən heç bir izi buraxıb buraxmadıqlarını soruşdum, cavab olmadı.

Əslində, universal etibarlı sistemin mövcud olması təəccüblü olardı. Mən bir neçə ildir AI aşkarlama problemlərini yazıram və bildiyimə görə, hazırda generasiya olunmuş mətni insan tərəfindən yazılmış mətndən ayıran etibarlı texnoloji həll yoxdur. C2PA Content Credentials və Google SynthID kimi sistemlər generativ AI-nin şəkil, video və hətta səsdə aşkarlanmasında irəliləyiş edir. Lakin bunlar görünməyən su nişanları və metadata əsaslıdır və kopyalanıb yapışdırılan mətndə keçərli deyil.

AI şirkətləri məsələnin daxili həllinə motivasiyaya malikdir.

Gələcəkdə bu dəyişə bilər və AI şirkətlərinin ən azı problemi daxildən həll etmək üçün motivasiyası var. İlk modellər internetdən seçməksiz mətnlərlə təlim keçir, insan yazısı süni yazının arasında sıxışdıqca “model çöküşü” riski yaranır ki, bu da nəticələrin dəqiqliyini azaldır.

Hazırda fanfik icmaları daha çox duyğulara əsaslanır. Əksər fanfiks AO3 skini kimi alətlə yox, xüsusi cümlə quruluşları və ifadələrlə qiymətləndirilir, məsələn, məşhur “bu X deyil, Y-dir” kimi cümlələrdən tutmuş artıq bəzədilmiş metaforalara qədər. (Fandomda hələ heç kim maraqlı dönüş keçirməyib.) Amma unutmaq olmaz ki, AI çox vaxt belə yazır, çünki insan yazılarını təlim kimi istifadə edir. O, insanları təqlid etməyə çalışır. Öz AO3-də işarələrimi paylaşmağa cəsarət etməsəm də, ChatGPT-dən qabaqkı dövrdə əsassız fanfiks oxumuşam ki, bu şübhəli testdən keçməzdi.

AO3-də süni intellekt əsərləri ayırmaq üçün ən yaxşı həll saytdakı güclü etiketləmə sistemidir. “ Generativ AI istifadə edilərək yaradılıb ” etiketi mövcuddur və bir çox müəllif Claude kimi alətlərin istifadəsini bu yolla açıqlayır. Lakin bu, dürüstlük tələb edir və reaksiyadan qorxduqları üçün az adam bunu edir. Unutmaq olmaz ki, fanfiction hobbi olmalıdır, tənzimlənən sənaye deyil.

Süni intellektin insan yaradıcılığından ayrılmasını qorumaq üçün edilən bu səylər nəticəsində, lazım olan yazı keyfiyyətinə cavab verməyən müəlliflər cadugər ovunun günahsız qurbanı ola bilər. Artıq ən azı bir yazıçı bu siyahıya düşüb, çünki ona güvəndiyi biri fanfikinə düzəliş edərkən Claude istifadə edib. Buna görə növbəti oxuyacağınız fanfik biraz robotik səslənirsə, əslində onun süni intellekt məhsulu olmaya da bilər.