Süni intellekt chatbotları işə düşdükcə, yəqin ki, oxuduğunuz mətnin bir insan, yoxsa maşın tərəfindən yazıldığını düşünmüsünüz. İndi, Avropa İttifaqı qanunvericiliyinə cavab olaraq, bir çox AI firmaları sizə bunu etməyə imkan vermək məqsədi ilə öz modelləri tərəfindən yaradılmış mətn, şəkillər və videolara su nişanları əlavə edir. Ümid odur ki, bu su nişanları dezinformasiyanın yayılmasının qarşısını almağa və süni intellektdən istifadəyə şəffaflıq gətirməyə kömək edəcək, lakin ekspertlər qeyd edirlər ki, ən azı mətnə gəldikdə, su nişanının işləməsi mümkün deyil.
Su nişanı tələbi Aİ-nin AI Aktının bir hissəsidir və avqustun 2-də qüvvəyə minib. ChatGPT-nin istehsalçısı olan OpenAI artıq şəkillər və audio işarələrini qoyur və gələcəkdə mətnə su nişanı əlavə etməyi planlaşdırdığını deyir. Claude-un arxasında duran firma Anthropic, gələcək modellərin mətnə su işarəsi qoyacağını açıqladı.
Süni intellekt qanunu artıq tətbiq edilmiş modellər üçün güzəşt müddəti verir, lakin bütün modellər bu il dekabrın 2-dək su nişanını təmin etməlidir. Niyə mən süni intellektlə bağlı fikrimi dəyişdim və siz də AI təhlükəsizlik firması olan NOPE-dan James Padolsey deyir ki, şəkil və video su nişanları sıx və çoxqatlı məlumatlardan ibarət olduğundan daha etibarlı olsa da, mətndəki su nişanlarının tətbiqi həmişə daha çətin olacaq. Mətnin filigranlanmasına yanaşmalardan biri sözlərin seçiminə riyazi olaraq aşkar edilə bilən nümunəni tətbiq etməkdir.
ChatGPT kimi böyük dil modelləri statistik olaraq daha sonra gələn sözü əlavə etməklə cümlələr yaradır. Sözlərin bu seçimini dəyişdirməklə, ola bilsin ki, növbə ilə ən çox ehtimal olunan növbəti sözü və sonra ikinci cümləni təkrarlamaqla, modellər mətnin ümumi mənasını dəyişmədən nümunəni yerləşdirə bilər. Süni intellekt qanununa əsasən, AI şirkətlərindən insanlara süni intellekt tərəfindən yaradılan mətni müəyyən etməyə imkan verən bu nümunələri axtara bilən alətlər təklif etmələri tələb olunacaq.
Lakin Padolsey qeyd edir ki, bu su nişanı nümunələri hətta yüngül redaktələrlə də silinə bilər. Öz fikrini evə çatdırmaq üçün Padolsey declaude adlı onlayn alət yaradıb, o, süni intellektlə yaradılan mətni götürür və onu mövcud süni intellekt detektorları artıq işləməyəcək şəkildə yüngülcə dəyişir. Eyni proses filigranlı mətn üzərində işləməlidir, deyir.
Padolsey deyir ki, belə alətlər olmasa belə, Aİ qaydalarına əməl etməyən bəzi açıq mənbəli AI modelləri həmişə mövcud olacaq, çünki bunlar heç bir texnoloji firma tərəfindən idarə olunmur. Böyük Britaniyanın Reading Universitetində Peter Scarfe deyir ki, bir çox şirkətlər su nişanından başqa üsullardan istifadə etməklə tələbə plagiatını aşkar etməyə kömək edə biləcəklərini iddia edərək onun şöbəsinə məhsullar təqdim ediblər, eyni zamanda onların sistemlərinin plagiatlıq hadisələrini qəti şəkildə sübut etmək və ya cəzalandırmaq üçün istifadə edilməməsi lazım olduğunu söyləyən kiçik çap da daxil olmaqla.
Xülasə — davamını mənbədə oxuyun.
