OpenAI bazar ertəsi blog yazısında bildirib ki, Avropa İttifaqında ChatGPT və Codex tərəfindən yaradılan mətnlərə görünməz su işarəsi əlavə etməyə başlayacaq.
Avqustun 2-də qüvvəyə minən AB AI Qanununun şəffaflıq qaydaları, AI şirkətlərindən digər sistemlərin müəyyən edə biləcəyi şəkildə AI-dən istehsal olunan məzmunu qeyd etməyi tələb edir.
OpenAI, bu su işarəsi yaxın həftələrdə bütün planlarda, ancaq yalnız AB-də tətbiq olunacaq. OpenAI API-ni dünyanın hər yerində istifadə edən inkişaf etdiricilər bu günə qədər seçilmiş modellər üçün açmaq olar. OpenAI, "Mətn su işarəsi"ni buraxılışda qlobal standart olaraq qəbul etmədiyini bildirib.
Su işarəsi əsl bir simvol deyil, lakin modelin söz seçimlərini incə şəkildə formalaşdıraraq işləyir, oxucuların görə bilmədiyi bir nümunə buraxır, lakin detektor ala bilər. Sözlərin özündə yaşayır, çünki kopya və yapışdırıldıqda mətnlə birlikdə hərəkət edir. OpenAI, su işarəsi istifadəçini tanımadığını və açıldığı modellərin performansında əhəmiyyətli bir dəyişiklik görmədiyini söylədi.
OpenAI, bu elanla yanaşı, textGrain adlı metod üçün texniki hesabat da dərc edib. Pensilvaniya və Yayn Universitetinin tədqiqatçıları ilə birlikdə yazılmış bu kitab cümləni bitirmək üçün növbəti sözün proqnozlarını sıralamaq üçün gizli açardan istifadə nümunəsini göstərir. Bu təzyiqlərin yüzlərləini birləşdirin və detektor yalnız mətni və açarı istifadə edərək süni intellekt tərəfindən yaradılan məzmunu görə bilər.
Su işarəsi redaktə ilə çıxarıla bilərmi? OpenAI testləri bəli göstərir. Bir sınaqda 10% sözlərin sinonimalarla əvəz edilməsi aşkarlanmanın təxminən 92%-dən 66%-ə düşməsini göstərdi. Şirkət həmçinin qısa məqamları, riyaziyyat cavablarını və tərcümə edilmiş mətni aşkar etmək daha çətindir.
Xülasə — davamını mənbədə oxuyun.
