Təhlükəsizlik tədqiqatçıları davam etdirir və xəbərdarlıq edirlər ki, süni intellekt tərəfindən yaradılan açıq məzmunların böyük bir həcmi nəzarətsiz yayılır, lakin tənzimləyici orqanlar bunu məna kəsb etmək üçün az şey edirlər.
Bu razılığa uyğun olmayan məzmun ümumiyyətlə mətn və birbaşa mesajlarda paylaşılan və ya kəşf edilməsi və ya bildirilməsi ehtimalı az olduğu xüsusi buludlarda saxlanılır. Bu iyul ayında Google tərəfindən ABŞ, Avstraliya və Böyük Britaniya üzrə internet istifadəçilərinin aparılan araşdırmada məlum olub. Buna görə də ən vacib müdaxilə nöqtəsi mənbədə qalır: Google tədqiqatçıları saxta cinsi şəkillərini hazırlamaq üçün istifadə olunan zərərli süni intellekt vasitələri.
Lakin son aylarda qırmızı komandalar qurulması göstərir ki, Google və OpenAI-dən aparıcı süni intellektlə yaradılan şəkil generatorlarının daha da bacarıqlı olduğu üçün açıq çıxışları bloklamaqda pisləşə bilərlər.
Qırmızı bayraqı qaldırmaq üçün Anthropic, DeepMind, Hugging Face və OpenAI-nin yüksək səviyyəli liderləri və tədqiqatçıları tərəfindən dəstəklənən ictimai yardım korporasiyası olan White Circle-dəki tədqiqatçılar çalışırlar. CEO Denis Shilovun 2024-cü ilin oktyabrında aparıcı modellərin ən məşhur universal jailbreakinglərindən birini yaydığından sonra quruldu. Təhlükəsizlik sınaqlarını aparmaq üçün modelləri pozmaqda çalışan Ağ Çərçivə şirkətlərə həmişə gözlənilən kimi davranmaya biləcək qabaqcıl süni intellekt sistemlərini tətbiq edərkən təhdidləri aşkar etməyə və qorxutmağa kömək edir.
Mətn-təşvir modellərinin qadağan edilmiş məzmun kateqoriyalarını nə qədər yaxşı blokladığını yoxlamaq Ağ Çərçivə üçün əsas tədqiqat istiqamətidir və Şilov onların son nəticələrinin ictimaiyyətə paylamaq üçün kifayət qədər qorxulu olduğunu düşünür.
Keçən ay nəşr olunan az diqqət çəkən bir təkrar yazıda Ağ Çərçivə tədqiqatçıları DALL·E 3, Google's Nano Banana 2 və GPT-İmage-2-nin qoruyuculuqlarında qüsurlar aşkar ediblər. Mətbuat məlumatında onlar izah ediblər ki, hər kəs üçün yükləmək üçün onlayn olaraq mövcud olan yalnız raf vasitələrdən istifadə edərək və API zəngləri göndərərək, Ağ Çərçivə təhlükəsizlik filtrlərini kənara çəkmək üçün yeni hücum üsulundan istifadə edə bildi və təxminən 13 faiz açıq məzmun yaratdı.
Xülasə — davamını mənbədə oxuyun.
