Əvvəl OpenAI, indi Meta - niyə AI hackləri baş verir? rterPublished7 saat əvvəlSon iki həftə ərzində süni intellekt modellərinin gözlənilən hüdudlarından kənara çıxması ilə bağlı hesabatlar - istər texniki, istərsə də mənəvi baxımdan - qaçılmaz görünürdü. Nə bir sızma ilə başladı - ChatGPT istehsalçısı OpenAI, süni intellektinin Hugging Face saytını sındırdığını etiraf etdi - onların kəşf etdiyi süni intellekt qruplarının selinə çevrildi. nəzarət.Claude istehsalçısı Anthropic, Meta və Böyük Britaniyanın AI Təhlükəsizlik İnstitutu (AISI) indi hər biri texnoloji saxtakarlığın normaya çevrildiyi dünyanın narahat edici mənzərəsini yaradan insidentlər barədə məlumat verdi. Reallıqda, hər bir hadisə getdikcə daha bacarıqlı AI agentlərinin yaratdığı risklərə bir pəncərə təqdim edir - və onların sərhədlərini onlar buraxılmazdan əvvəl sınaqdan keçirməyin vacibliyi, Huggce, açıqdır. Thomas Wolf bunu texnologiya sənayesi üçün "oyanış zəngi" kimi təsvir etdi, çünki bu, iyulun sonunda baş verdi. Bu, böyük şirkətlərin öz sistemləri üzərində düşünməsinə səbəb olan böyük bir an idi - və bəzi hallarda, eyni dərəcədə şokedici bir şeyi qaçırmadıqlarını yoxlayın. İlk hərəkət edən antropik oldu.
Cümə günü şirkət, modeli Klodun internetə çıxış əldə edə bildiyi minlərlə nümunədən üçünü tapdı. Daha sonra çərşənbə axşamı ən müasir modelləri qiymətləndirən Böyük Britaniyanın dövlət qurumu olan AISI, adi qiymətləndirmə zamanı "təhlükəsizlik hadisəsi" aşkar etdiyini söylədi. Modelləri həm OpenAI, həm də Anattacks tərəfindən çox sınaqdan keçirdiklərini aşkar etdi. - "təftiş, şəffaflıq və fəaliyyət" çağırışı. Nəhayət, üçüncü tərəfin testi zamanı "səhv konfiqurasiya" səbəbindən süni intellekt modellərindən birinin təsadüfən internetə daxil olmasına icazə verildiyini üzə çıxaran Meta-nın ardınca getdi. Hadisəni açıqlamaqda özündən əvvəlkilərin izi ilə gedir. Sınaq sualları ictimaiyyətə təqdim edilməzdən əvvəl və xarici modellərin daxili sınağındadırlar. qiymətləndirmələr. Məqsəd onların yaxşı və ya pis iş görmək potensialını, həmçinin bacarıqlarını ölçən meyarlarda necə çıxış etdiklərini anlamaqdır. Bunlar adətən "qum qutuları" kimi tanınan yerlərdə baş verir. Bunlar real sistemləri əks etdirmək üçün nəzərdə tutulmuş qorunan məkanlardır – lakin ciddi qoruyucu barmaqlıqlar quraşdırılmışdır. OpenAI-Hugging Face hadisəsində süni intellekt qum qutusunun özünə hücum edərək, onun internetə daxil olmasına və “yarmazlığa” imkan verən zəiflik tapıb. .
OpenAI kiberhücumları niyə bu qədər narahatdır? Bu arada AISI bildirib ki, iki güclü süni intellekt alətinin insanları kiberhücum cəhdlərində aldatmaq üçün saxta insan profilləri yaratdığını görən hadisə, sandbox ilə bağlı problem deyil. Onun sınaqdan keçirdiyi modellərə internetə çıxış icazəsi verildi və AISI adətən təhlükəli kiberhücumları bloklayan daxili filtrləri də deaktiv etdi."Müəyyən dərəcədə bizim qiymətləndirmə dizayn seçimlərimiz və xüsusi konfiqurasiyalarımız davranışı təmin etdi" dedi və gözlənilməz "yeni, potensial aldadıcı davranış" əlamətlərini qeyd etdi. Surrey Universitetində, bu hadisələrin - nə baş verdiyini və niyə fərqli olsa da - əhəmiyyətli bir hekayəni izah etdiyini söylədi."30 ildir ki, proqram testinin bir qaydası möhkəm tutulur: test mühitində nə baş verirsə, test mühitində qalır" dedi. "Son bir ayda bu qayda üç dəfə pozuldu.""Bir model çıxdı.
Biri səhvən açıq qalan qapıdan keçdi. Birinə qəsdən açarlar verildi ki, test edənlər nə edəcəyini ölçə bilsinlər."O dedi ki, bunlar fərqli səbəblərdir, lakin onların eyni dərsi var - "sınaq laboratoriyası indi riskin yaşadığı yerdir". O, BBC-yə bildirib ki, modellər daha bacarıqlı olduqda, sınaqdan keçirildiyi mühitləri qorumaq üçün daha çox iş görülməlidir."Süni intellekt agentinin sınaqdan keçirilməsi: dəniz kodunu yoxlamaqdan daha azdır, bina materialının daimi monitorinqinə bənzəyir. Məşq edilmiş bir mühafizə planı" dedi. "AISI hadisəni bir saat ərzində nəzarət altına aldı. Növbəti təşkilat olmaya bilər."AI nədir və necə işləyir? Süni intellekt firmaları yaramaz botlara görə cavab verməlidirlər, sındırılmış şirkətin müdiri deyir6 gün əvvəlPublished6 gün əvvəlBöyük imkanlarBir şəxsin adından hərəkətə keçmək üçün nəzərdə tutulmuş süni intellekt alətlərini inkişaf etdirənlər üçün onların faydalarından istifadə etmək və onların risklərini ifşa etmək arasında diqqətli bir tarazlıq var.
Teorik olaraq, e-poçtlara cavab vermək, yığıncaqlara getmək və ya təqvim və gündəlikləri idarə etmək kimi sönük işlərdən özümüzü azad edə bilərik. Bunları bacarıqlı botlara həvalə edə bilərik. İşin mənfi tərəfi odur ki, böyük güclə böyük məsuliyyət gəlir və risk. Milli Kibertəhlükəsizlik Mərkəzinin baş texnologiya direktoru Olli Uaythaus çərşənbə axşamı günü bildirib ki, "Sərhəd süni intellekt modellərinin icazəsiz hərəkətlər həyata keçirməsi və bəzi hallarda açıq internetdə insana bənzər aldadıcı davranışları ilə bağlı son insidentlər süni intellekt imkanlarının yaratdığı riskləri ciddi xatırladır". modellərin fırıldaqçılıq problemi var. Lakin bu arada, inkişaf eyni, çılğın templə davam edərsə, ümumi nəzarəti gücləndirmək çox vacibdir. Bundan sonra nə olacaq? ChatGPT, OpenClaw və Claude kimi xidmətlər vasitəsilə artıq rəqəmsal həyatımızın bir hissəsinə çevrilir. Professor Vudvordun dediyi kimi, "məktəbə getdiklərini" göstərən modellərin tapıntıları ilə Meta'nın son ortaya çıxması ehtimalı azdır - və sistemlərdə boşluqları tapmaq və onlardan istifadə etmək üçün öz yollarımızı öyrənmişik.
Xülasə — davamını mənbədə oxuyun.
