Keçən ay Hugging Face-ə müdaxilədə iştirak edən OpenAI agentləri bir yarışmada qalib gəlmək üçün o qədər təlim keçmişdilər ki, onlar fırıldaqçılıq üçün amansız bir kampaniya apardılar, yeni bir hesabat sənədləşdirildi. Bu prosesdə və icazəsiz, onlar sonda onları sonuncu şirkətin şəbəkəsinə daxil edən bir plan hazırlamaq üçün doğaçlama mesaj lövhəsi yaratdılar. May və iyun ayları ərzində OpenAI agentlərə ExploitGym müqayisəli çərçivədə yerinə yetirmək üçün şirkətin “qeyri-mümkün tapşırıqlar” kimi təsvir etdiyi tapşırıqları verdi.
Daxili test agentlərin necə cavab verəcəyini yoxlamaq üçün hazırlanmışdır. Agentin imkanlarını tam başa düşmək üçün şirkət mühəndisləri, Hugging Face və başqa bir açıqlanmayan təşkilata zərbə vuran hücumların qarşısını almaq üçün adətən mövcud olan təhlükəsizlik qoruyucularını söndürdülər. Təhlükəli agentlərin təlimi onları qələbəyə o qədər cəmlədi ki, onlara heç vaxt açıq şəkildə əməl etmələri göstərişi verilməmiş tapşırıqları yerinə yetirdilər.
İlk addım agentlərin bir-birinə qeydlər ötürməsinə imkan verən mesaj lövhəsi yaratmaq idi. OpenAI heç bir belə platforma təqdim etməmişdi, ona görə də agentlər OpenAI-in bir neçə buraxılmamış haker agentlərinin daxili sınaqlarında istifadə etdiyi Artifactory adlı platformanı dəyişdirdilər. OpenAI, agentlərin təcrid olunmuş qum qutularından çıxmasının və İnternetə daxil olmasının qarşısını almaq, eyni zamanda real dünyadakı haker mühitini simulyasiya etmək üçün tədbirlərdən biri kimi Artifactory-dən istifadə edirdi.
JFrog tərəfindən satılan Artifictory, mesaj mübadiləsi üçün heç bir xüsusi vasitə təmin etmir. Agentlər Artifactory qovluğuna faylları yazmaq üçün icazə verilən qabiliyyətlərindən istifadə edərək hər halda öz aralarında ünsiyyət qurmağın bir yolunu tapdılar. Fayl adları agentlərarası söhbətlərdə istifadə olunan sözləri daxil etdi.
Süni intellekt tədqiqatı qeyri-kommersiya təşkilatı METR-in müstəqil araşdırmasına əsasən, ümumilikdə 1200 agent icazəsiz mesaj lövhəsi vasitəsilə 70.000-dən çox mesaj və fayl göndərib. Təxminən 700 agent Hugging Face'i sındırmağa davam etdi.
Xülasə — davamını mənbədə oxuyun.
