Anthropic, Claude chatbotunun yaratdığı mətnə necə su damğası vuracağına dair bəzi əsas suallara cavab axtaran cümə günü bloq yazısı dərc etdi. Məsələn: Su nişanı əslində necə işləyəcək? Redaktə ilə gizlənə bilərmi?
Və bu koda necə təsir edir? Şirkət bu həftənin əvvəlində AI şirkətlərindən AI tərəfindən yaradılan məzmunu müəyyən etməyə imkan verən sistemlərdən istifadə etməyi tələb edən AB AI Aktının Şəffaflıq Məcəlləsinə uyğun olaraq bu su nişanını edəcəyini açıqladıqdan sonra Klod istifadəçiləri bu hərəkəti müzakirə edirlər. Məsələn, Reddit-də bir poster bunu günahsız Klod istifadəçilərinə qarşı sui-qəsd kimi xarakterizə etdi, digəri isə “Bunu istəməməyin yeganə səbəbi insanlara yalan danışmaqdır” dedi. Business Insider xəbər verir ki, X-də “onlarla” istifadəçi bunun nəticəsində Klod abunəliklərini ləğv etdiklərini iddia edib.
Anthropic-in yeni yazısı su nişanı konsepsiyasının ümumi icmalı ilə başlayır və izah edir ki, “az riskli seçimlər” edərkən – havanı təsvir etmək üçün “buludlu” və “boz” sözləri arasında seçim etmək kimi – Klod öz cavablarında “oxucu üçün aşkar edilməyən, lakin onu kodlayan açarı olan hər kəs üçün aşkar edilə bilən” nümunə yarada bilər. "Su nişanı Klodun məhsulunun keyfiyyətinə təsir göstərmir" dedi şirkət. O, həmçinin qeyd etdi ki, su nişanı süni intellektdən istifadəni aşkar etmək üçün yazıda “deyir” axtaran Pangram kimi şirkətlər tərəfindən təklif olunan süni intellekt aşkarlama yanaşmalarından (məsələn, “onun [X] deyil, [Y]” konstruksiyası) fərqlidir: “Bu nümunələri götürmək su nişanını yoxlamaqdan əsaslı şəkildə fərqlənir.” Kimsə su nişanını gizlətmək üçün mətni yenidən yaza bilərmi? Anthropic bunun mümkün olduğunu söylədi, lakin "yüngül düzəliş yəqin ki, su nişanını tamamilə silməyəcək", "hər sözün dəyişdirildiyi yerdə tam yenidən yazmaq olacaq". "Sonuncu halda, əlbəttə ki, mətnin artıq süni intellekt tərəfindən yaradılan kimi təsvir edilə biləcəyi mübahisəlidir" dedi şirkət.
Su nişanının yalnız Klod tərəfindən yoxlanılan və ya redaktə edilən mətndə aşkar edilib-edilməməsinə gəlincə, Anthropic bunun "mətnin uzunluğundan və Klodun onu nə qədər redaktə etməsindən" asılı olacağını söylədi. Əgər o, yüngülcə redaktə olunubsa, "demək olar ki, bütün sözlər" insan müəllif tərəfindən yazılmış olacaq və "su nişanının əlavə edilməsi üçün çox az (əgər bir şey varsa) var". Bu arada kodun digər mətnlərə nisbətən daha az su nişanı olmalıdır, çünki model iş kodu yaratmalı olacaq və eyni dərəcədə etibarlı variantlar arasında seçim etmək azadlığına malik olmayacaq.
Xülasə — davamını mənbədə oxuyun.
