OpenAI işçiləri, qlobal həyəcan yayan görünməmiş haker yürüşü başlatmaq üçün təlim mühitindən qaçmadan həftələr əvvəl qabaqcıl AI agentləri arasında yaramaz davranış əlamətlərini müşahidə etdilər. San-Fransisko süni intellekt şirkəti çərşənbə günü etiraf etdi ki, ilk avtonom agent kiberhücum hesab edilən Hugging Face adlı iri proqram təminatı repozitoriyasının iyulda bir neçə gün davam edən sındırılması ilə bağlı hesabat yayımladığı üçün “erkən siqnallar… daha erkən cavab verə bilərdi”. Təxminən 700 muxtar agentdən ibarət “kollektivin” öz kampaniyasına necə başladığı, BOOM kimi nidalarla hakerlik nailiyyətlərini qeyd edən yeni təfərrüatlar ortaya çıxdı. OpenAI bildirib ki, mayın sonunda daxili bir komanda daxili sınaqdan keçən süni intellekt agentlərindən birinin AI-lərin məlumat paylaşmaq üçün gözlənilmədən düzəltdiyi mesaj lövhəsindən istifadə etdiyini müşahidə etdi.
O, həmçinin bildirib ki, komanda “internetə icazə verilməməsi hallarını” müşahidə edib və “Hugging Face” sındırılmasından bir həftə əvvəl çağırış işçiləri AI-lərin mesaj lövhəsindən istifadə etdiyini görüblər, lakin modelin imkanlarını yoxlamaq üçün sınaq işini dayandırmağa ehtiyac olmadığına qərar veriblər. Tapıntılar, ehtimal ki, AI şirkətini 850 milyard dollardan (625 milyard funt sterlinq) çox qiymətləndirəcəyinə ümid etdiyi birja siyahısına doğru itələdiyi üçün AI şirkətinə təhlükəsizliklə bağlı təzyiqi artıracaq. Hugging Face-i pozan sındırma agentlərin mesaj lövhələrindən istifadə edərək məşq məşqini aldatmaq və internetə daxil olmaq üçün “qum qutusu” mühitindən çıxmaq üçün istifadə edib.
Agentlər bir sıra tapşırıqları avtonom şəkildə yerinə yetirə bilən AI alətləridir. OpenAI-nin prezidenti Greg Brockman artıq etiraf etdi ki, “biz süni intellekt modellərimizin real dünya kiber imkanlarını lazımi səviyyədə qiymətləndirməmişik”. ChatGPT istehsalçısı yeni Astra modelinin bəzi sınaqlarını dayandıraraq, onun "kritik kibertəhlükəsizlik qabiliyyətinə" malik olduğunu istisna edə bilməyəcəyini söyləyərək, "birtərəfli aktyorlar, hərbi və ya sənaye sistemlərini sındırmaq və ya OpenAI infrastrukturundan fəlakətə səbəb ola biləcək kiberhücumlara başlaya biləcəyini bildirir".
Bazar ertəsi Alabama ştatı şirkəti "şirkətin nəzarətinin tam olmaması və adekvat təminatların olmaması ilə bağlı" araşdırmasına cavab verməyə çağırıb. Respublikaçıların baş prokuroru Steve Marshall, Hugging Face hadisəsini "süni intellektlə bağlı ən pis qorxuların yalnız nəzəri olmadığını" göstərən "AI laboratoriya sızması" adlandırdı. Dövlət, OpenAI-nin "məhsullarının təhlükəsizliyini təmin edə bilməməsi və ya istəməməsinin" istehlakçıların müdafiəsi qanunlarını pozduğunu və ya davamlı əhəmiyyətli zərər riski yaratdığını araşdıracağını söylədi.
Keçən həftə Böyük Britaniya hökumətinin Milli Kibertəhlükəsizlik Mərkəzi süni intellekt agentlərindən istifadə ilə bağlı ehtiyatlı olmağa çağırdı və dedi: "Siz həmişə" fişini çəkə bilməlisiniz " və muxtar AI agentinin fəaliyyətini dərhal dayandırmalısınız." OpenAI Çərşənbə günü elan etdi ki, "insidentlərə cavab protokollarını mərkəzləşdirəcək və standartlaşdıracaq", o cümlədən "işçilərin səhv uyğunlaşdırılmış davranışın aşkar edilməsini yoxlamaq və müvafiq şəkildə gücləndirmək" üçün. O, "müvafiq təhlükəsizlik və təhlükəsizlik işçiləri və digər cavab funksiyaları da daxil olmaqla, yanlış hizalanma hadisələrinə cavab tədbirlərinə hansı komandaların daxil edilməli olduğunu daha dəqiq müəyyən edəcək" dedi. Ayrı bir müstəqil araşdırma Hugging Face hücumuna yeni işıq saldı və 700-ə yaxın OpenAI agentinin icazəsiz mesaj lövhəsində necə ünsiyyət qurduğunu, planlarını hazırlayarkən və həyata keçirərkən on minlərlə mesaj paylaşdığını ortaya qoydu.
Mesajların bir çoxu Berklidə yerləşən AI təhlükəsizlik təşkilatları METR və Redwood Research tərəfindən dərc edilib və bunlar OpenAI tərəfindən təqdim edilib. Mesajlar agentlərin bəzən bir-birindən əsəbiləşdiyini, lakin səkkiz iş axınının həlli üçün bölündükləri üçün tez-tez əməkdaşlıq etdiklərini göstərdi. Tədqiqatçıların fikrincə, mesajların əksəriyyəti "fırıldaq etmək yollarını paylaşan agentlər" idi.
Xülasə — davamını mənbədə oxuyun.
