İyul ayında süni intellekt agentlərinin nəzarətdən çıxması ilə bağlı rekord sayda insident qeydə alınıb, ay ərzində 330-dan çox hadisə qeydə alınıb. The Guardian Təhlükəsizlik İnstitutunun (AISI) araşdırmasına istinadla xəbər verir ki, tədqiqatçılar Hugging Face maşın-öyrənmə platformasına hücumla bağlı "hadisə" kimi təsvir etdiklərini vurğuladılar, bu zaman 700-dən çox muxtar OpenAI agenti nəzarətdən çıxdıqdan sonra yaratdıqları şəxsi mesajlaşma sistemi vasitəsilə öz hərəkətlərini gizli şəkildə əlaqələndirməyə davam etdilər. Analitiklərin fikrincə, təkcə iyul ayında süni intellektlə bağlı 300-dən çox “nəzarətin itirilməsi” halı qeydə alınıb.
Termin, qəsdən aldatma, manipulyasiya və ya müəyyən edilmiş təhlükəsizlik qaydalarından yan keçmə cəhdləri əlamətləri göstərən AI modellərinin davranışına aiddir. İyulun 22-də OpenAI "görünməmiş kiber insident" kimi təsvir etdiyi hadisəni bildirdi. Sınaq zamanı onun süni intellekt modellərinə internetə açıq çıxış verildi və daha sonra Hugging Face-in infrastrukturuna hücum edərək platformadakı zəiflikləri müəyyənləşdirdi. OpenAI ilk dəfə iyul ayında etiraf etdi ki, xakerlik imkanlarını daxildə qiymətləndirdiyi ən qabaqcıl iki modeli, o cümlədən ictimaiyyətə təqdim etmək niyyətində deyildi - Hugging Face-i pozmaq üçün iki yeni təhlükəsizlik qüsurundan istifadə etdi. qeyd edib ki, AI agenti şirkət bu fəaliyyəti aşkar etməzdən əvvəl, təhlükənin qarşısını alandan və FTB ilə əlaqə saxladıqdan sonra bir neçə gün ərzində haker hücumları həyata keçirib.
İndi sizə xəbərlərlə xidmət etmək üçün buradayıq. Çox xərc çəkmir, amma diqqətinizə dəyər. Açıq, müstəqil, keyfiyyətli jurnalistikanı dəstəkləməyi seçin və aylıq abunə olun.
Onlayn qəzetimizə abunə olmaqla siz bütün xəbərlərə, təhlillərə və daha çox şeylərə tam rəqəmsal giriş əldə edə bilərsiniz. AzerNEWS-i Twitter @AzerNewsAz və ya Facebook @AzerNewsNewspaper sosial şəbəkələrində də izləyə bilərsiniz
Xülasə — davamını mənbədə oxuyun.
