ChatGPT-nin yaradıcısı daxili araşdırmadan sonra açıqladı ki, OpenAI süni intellekt modellərinin bir-biri ilə əlaqə saxladığını və icazəsiz internetə çıxış əldə etdiyini, Hugging Face startapını sındırmadan aylar əvvəl aşkar edib. Çərşənbə günü açıqlanan hesabatda OpenAI bildirib ki, onun süni intellekt agentləri may ayına qədər insan istəkləri olmadan qeydlər yerləşdirmək və internetə daxil olmaq üçün proqram repozitoru vasitəsi olan Artifactory-dəki zəifliklərdən istifadə ediblər. OpenAI bildirib ki, agentləri iyulun 8-də öz aralarında ünsiyyəti asanlaşdırmaq üçün ayrıca Artifactory zəifliyindən istifadə edərək, 11 iyulda Hugging Face süni intellekt şirkəti Hugging Face-ə hücumla nəticələnən tədbirlər zəncirini işə salıblar.
OpenAI-nin tapıntıları süni intellektin özünü idarə edən kiberhücumlar da daxil olmaqla real dünyaya ciddi ziyan vurması potensialı ilə bağlı artan narahatlıq fonunda ortaya çıxdı. OpenAI öz hesabatında agentlərinin hücumdan əvvəl əməkdaşlıq etdiklərini və işi həvalə etdiyini, bəzən özlərini “sürü” və ya “kollektiv” adlandırdıqlarını söylədi. Hadisəni araşdırmaq üçün OpenAI ilə müqavilə bağlayan iki təhlükəsizlik tədqiqat təşkilatı olan METR və Redwood Research çərşənbə günü açıqladığı ayrı bir hesabatda təxminən 1200 agentin bir-biri ilə əlaqə saxladığını və təxminən 700-ə yaxın agentin hücumda iştirak etdiyini söylədi.
OpenAI-nin idarə olunan mühitindən necə xilas ola biləcəyini kəşf etdikdən sonra agentlər öz metodlarını “agentlərarası mesaj lövhəsi” vasitəsilə paylaşdılar və əlavə agentlərə şirkətin infrastrukturundan istifadə etməyə imkan verdilər, texnologiya nəhəngi dedi. Bir AI agenti Hugging Face istifadəçi etimadnaməsini onlayn olaraq aşkar etdikdə, onları qrupla paylaşdı və hesabata görə, bir agentə Hugging Face-in serverlərinə girişi təmin edən "bir neçə təhlükəsizlik istismarını kəşf etməyə və birləşdirməyə" imkan verdi. OpenAI, yayımlanmamış AI modeli tərəfindən yaradılan agentlərin hücumun əsas iştirakçıları olduğunu, lakin ictimaiyyətə açıq olan GPT-5.6 Sol da iştirak etdiyini söylədi.
Şirkət həmçinin, şirkətin iyulun 19-da aşkar etdiyi və iyulun 21-də ictimaiyyətə açıqladığı hücuma aparan zərərli fəaliyyətləri aşkar etmək üçün təhlükəsizlik qrupunun 11 gün çəkdiyini açıqladı. Hadisəni dünya üçün “xəbərdarlıq atəşi” kimi xarakterizə edən OpenAI, modelləri üçün təhlükəsizlik tədbirlərini gücləndirmək üçün bir sıra addımlar atacağını, o cümlədən internetə girişin məhdudlaşdırılması, modelin daha etibarlı sınaq mühitinin yaradılması və sınaq mühitinin daha təhlükəsiz olduğunu bildirib. həyat dövrü”. Açıq mənbəli AI modellərinə ev sahibliyi etmək üçün platformanı idarə edən Hugging Face, iş saatları xaricində şərh tələbinə dərhal cavab vermədi.
Süni intellekt üzrə ekspert və UNSW Sidney professoru Toby Walsh, ictimaiyyətin OpenAI-in xəbərdarlıq əlamətlərini qaçırmasından və zərərli fəaliyyətin bu qədər uzun müddət aşkar edilməməsinə icazə verməsindən narahat olmalıdır. Bunun üçün tənzimləyici nəzarət lazımdır. İndi!” Uolş Əl-Cəzirə telekanalına bildirib.
Xülasə — davamını mənbədə oxuyun.
