OpenAI Avropada ChatGPT mətnlərinə görünməyən su nişanı əlavə edir

TechCrunch yazır ki, OpenAI Avropa İttifaqı üçün nəzərdə tutulmuş yeni süni intellekt qanununa uyğun olaraq, ChatGPT və Codex tərəfindən yaradılan mətnlərdə görünməyən su nişanının tətbiqinə başlayacaq.

Su nişan fiziki simvol deyil, modelin söz seçimlərini yüngülcə dəyişdirərək mətnə gizli naxış əlavə edir, bu isə insanların görmədiyi, lakin xüsusi alətlərlə müəyyən edilə bilən formadadır. Mətn kopyalandıqda və yapışdırıldıqda su nişan onu daşıyır. OpenAI bildirib ki, istifadəçinin identifikasiyası su nişanı vasitəsilə aparılmır və sistemin performansında mənalı dəyişiklik olmur.

Bu yenilik Avropa İttifaqında bütün planlardan istifadə edən seçilmiş ChatGPT və Codex istifadəçiləri üçün yaxın həftələrdə tətbiq ediləcək. Dünya üzrə API istifadəçiləri isə seçilmiş modellərdə su nişanını özləri aktivləşdirə bilərlər, lakin default olaraq bu xüsusiyyət işləmir.

OpenAI su nişan metodunun texniki hesabatını da yayıb. Bu üsulda gizli açar vasitəsilə cümləni tamamlayacaq sözlər sıraya qoyulur və mətnin yüzlərlə kiçik düzəlişi nəticəsində su nişanını aşkar etmək mümkün olur.

Sınaqlar göstərib ki, mətnin 10 faiz sözünün sinonimlərlə əvəz olunması aşkar etmə faizini 92-dən 66-ya endirir. Qısa mesajlar, riyazi cavablar və tərcümə edilmiş mətni aşkar etmək isə çətindir.

OpenAI bildirir ki, su nişanın olmaması insan müəllifliyini təsdiqləmir, çünki çox qısa və ya redaktə olunmuş mətnlərdə, digər şirkətlərin süni zəka məhsullarında da su nişan olmaya bilər.