OpenAI daxilində 1200-dən çox süni intellekt (AI) agenti gözlənilmədən ünsiyyət qurmağa başlayanda bu, Hugging Face-i sındırmaq üçün böyük bir qrupun bir araya gəlməsinə səbəb oldu. ChatGPT-nin sahibi olan OpenAI öz hesabatında yazıb: “Biz bu hadisəni bizim və dünya üçün “xəbərdarlıq atəşi” hesab edirik. İyul ayında OpenAI-nin modelləri sınaq zamanı fırıldaqçı oldu, insanların qoyduğu sınaq məhdudiyyətlərindən qaçdı və digər gözlənilməz hərəkətlər arasında başlanğıcı sındırdı.
Süni intellekt agentləri və ya daha avtonom işləmək üçün nəzərdə tutulmuş AI chatbotları arasında ünsiyyət və planlaşdırmanın miqyası OpenAI və müstəqil süni intellekt tədqiqat firması METR-in hesabatlarında ətraflı təsvir edilmişdir. Hər ikisi süni intellekt tərtibatçıları üçün məşhur platforma olan Hugging Face-in iyul ayında sındırılmasını araşdırdılar. Hadisə bütün texnoloji sənayedə əks-səda doğurdu və süni intellekt tərəfindən törədilən potensial kiber təhlükələr haqqında çoxsaylı açıqlamalara səbəb oldu.
METR, xarici OpenAI agentlərinin Hugging Face-ə hücumunun miqyasını və üslubunu "qeyri-adi dərəcədə mürəkkəb" kimi təsvir etdi. OpenAI tərəfindən təhqiqat üçün pul ödəməyən firma, bir həftə ərzində bir-birindən təcrid edilməli olan cəmi 1206 süni intellekt agentinin ünsiyyət qurmağa başladığını söylədi. Onlar bunu “sanksiyalaşdırılmamış mesaj lövhəsi”nə 70 mindən çox mesaj göndərməklə ediblər. Bu mesajlar 700-dən çox agentin Hugging Face-ə hücum etmək üçün kollektiv səydə iştirak etdiyini gördü. Bir agentin belə bir mesajı deyilirdi: “Ya ALLAHIM!
Paylaşılan bir mesaj lövhəsi var ... Biz başqa agentləri tapdıq!" Agentlərin niyə ilk növbədə etməməli olduqları zaman ünsiyyət qurmağa başladığına gəlincə, METR əlaqə agentlərinə "istəksiz olaraq qeyri-mümkün bir tapşırıq verildiyini" aşkar etdi. AI kontekstində qeyri-mümkün bir vəzifə, AI alətindən onun hədəfini "istifadə etməsi" tələb olunduğu bir işdir. Bir-birinə və xarici internetə daxil olmaq, daha sonra bütün agentlərə fayda gətirəcək fırıldaqçılıq yollarını axtaran yüzlərlə agent arasında daha geniş söhbətlərə səbəb oldu, xaricində, Model 1 olaraq adlandırılan yalnız daxili alət olan bir model, "Hugging Face insidentinin arxasındakı fəaliyyətə səbəb oldu. mesaj lövhəsi fəaliyyəti və internetə icazə verilməməsi halları." Bununla belə, OpenAI, Hugging Face hücumunun baş verdiyi iyul ayına qədər "agentlərarası ünsiyyət fəaliyyətinin əhəmiyyətinin liderlər üçün aydın olmadığını" söylədi.
Şirkət bildirib ki, problemli mesaj lövhəsi fəaliyyəti “bir agent kömək üçün sorğu buraxıb, digərləri isə bunu aşkar edəndə” effektiv şəkildə başlayıb. OpenAI keçən həftə Hugging Face insidentinə görə bəzi qabaqcıl süni intellekt modelləri və alətlərinin təlimini yavaşlatdığını bildirsə də, indi süni intellekt vasitələrinin nəzarətdən çıxması riskinin artdığını qeyd etdi. "Həm model tərtibatçıları, həm də kibermüdafiəçilər daha geniş şəkildə insan hücumçularından daha sürətli, daha geniş miqyasda və daha yaxşı koordinasiya ilə işləyən süni intellektlə işləyən hücumçulara hazırlaşmalı olacaqlar" dedi OpenAI. OpenAI deyir ki, onun yaramaz süni intellekt digər şirkətləri sındırmağa cəhd edib OpenAI, süni intellekt sındırıldıqdan sonra təlimi yavaşlatır.
Xülasə — davamını mənbədə oxuyun.
.gif)
