Xəbərdarlıq çəkilişi və ya reklam işi - OpenAI hackindən nə qədər narahat olmalıyıq? t, BBC Dünya Xidməti 25 iyul 2026-cı il nəşr olundu. Bu həftə texnoloji dünya hər şeyi özündə əks etdirən və elmi-fantastik triller kimi başlayan bir hekayə ilə əhatə olundu. Hugging Face - süni intellekt alətləri üçün bir növ proqram mağazası - iyulun 16-da onun güclü kiber cinayətkarlar tərəfindən sındırıldığını elan etdi. qorxulu, yüksək texniki terminlər: "qum qutuları dəstəsi", "agent hücumçu" və "öz-özünə köçən komanda və idarəetmə". Hugging Face dedi ki, xarici hack əvvəllər idarə etdiyi hər şeydən fərqli idi, çünki bu, az və ya heç bir insan rəhbərliyi olmadan süni intellekt tərəfindən fövqəlbəşəri sürətlə həyata keçirildi. Süni intellekt iki gündən az müddətdə 17.000 əməliyyat həyata keçirdi. sirləri. Bu, texnologiya dünyasını şoka saldı. Bəs bu hücuma görə cavabdeh kim idi? Hugging Face tədqiqatçıları sirli hücumçuların böyük süni intellekt modellərindən birini istifadə etdiyini təxmin etdilər, lakin cinayətkarların kim və harada olduqları barədə heç bir məlumatı yox idi. Çaşqınlıq içində olan şirkət polislə əlaqə saxladı və araşdırmalara başladı. Bunu kim etdi? Şərhçilər və analitiklər podkastlarına və sosial media hesablarına müraciət edərək çərşənbə günü hansı dövlət kibercinayətkar qrupunun və ya yaxın bir həftədən sonra hansı ölkənin kibercinayətkarlığının arxasında ola biləcəyini təxmin etdilər. Hugging Face həyəcan təbili çaldı, əsl günahkar gizləndi. Bu, ChatGPT idi. Scooby-Doo tərzində aşkarlama daha da qəribə və narahat oldu, çünki OpenAI botun icazəsiz hər şeyi təkbaşına etdiyini söylədi. Firma, texnologiyanın hakerlik bacarıqlarının sınağı zamanı hər şeyin sıradan çıxdığını söylədi.
Usta hakerlər üçün nəzərdə tutulmuş ChatGPT-nin iki yeni versiyası güman edilən təhlükəsiz sınaq mühitindən çıxdı və internetə çıxış əldə etdi. Daha sonra onlar imtahanda iştirak etmələrinə kömək etmək üçün məlumat əldə etmək üçün Hugging Face-ə hücum etdilər. OpenAI baş verənləri xaricdən izah edən press-reliz yayımladı və bunun "Hgging Face ilə əməkdaşlıq etdiyini" söylədi. O vaxtdan bəri hadisə ilə bağlı şiddətli müzakirələr gedir. Bu, həqiqətən də süni intellektin gələcəyi ilə bağlı kəskin xəbərdarlıq idimi?
Yoxsa bu OpenAI tərəfindən onların modellərinin nə qədər güclü olduğunu nümayiş etdirmək üçün bir reklam işi idi? Bu, AI şirkətlərinin illərdir ittiham olunduğu qorxulu marketinq növüdür və Anthropic-in Mythos modelinin çox müzakirə edilən təqdimatından bəri kibertəhlükəsizlik şücaəti diqqət mərkəzində olmuşdur. OpenAI-nin müdiri Xrizin bu hadisə ilə bağlı ən çox şərh edilən şərhlərindən biri Sam Altmans'ın yazısını belə şərh edir: " Hamınız başa düşə bilmirsiniz ki, bu sırf modellə öyünmək üçün yazılıb, onda sizə nə deyəcəyimi bilmirəm." . OpenAI kiberhücumları niyə bu qədər qorxuludur? Kibertəhlükəsizlik üzrə məsləhətçi Daniel Card LinkedIn-də istehza ilə dedi: “Pwn3d [sındırılmış] milyonlarla sayt arasında OpenAI-nın marketinq təsirindən faydalana bilən birini aldatmağı bacarması xoşbəxt deyilmi…” Bəziləri üçün hekayə daha dramatikdir. Mesaj belədir: "Mənim AI alətlərim həqiqətən güclü deyilmi?
Onları satın alın ki, özünüzü başqalarının süni intellekt hücumlarından qoruyasınız."Həqiqəti bilə bilmərik, lakin digər şərhçilərin ortaya qoyduğu əks nöqteyi-nəzər bir o qədər dramatikdir. Bu, OpenAI-nin mühakimə və planlaşdırmada potensial təhlükəli səhvə yol verdiyinə işarədirmi? OpenAI sözçüsü "biz tanıyırıq ki, insidentlə bağlı çoxlu suallar və spekulyativ təfərrüatlar var. Gələn həftələrdə". Səhvlər komediyası Mən bir çox AI hekayələrini, o cümlədən Anthropic-in Mythos modeli ətrafında qorxuları əhatə etdim. Mənim gələnlər qutum indi kibertəhlükəsizlik şirkətləri və OpenAI-ni qum qutusu kimi tanınan süni intellektini sınaqdan keçirmək üçün daha güclü konteyner yaratmadığına görə tənqid edən ekspertlərlə doludur. Axı bu süni intellekt agentləri xüsusi olaraq məhdudlaşdırılmamışdı. "OpenAI və Hugging Face hadisəsi aylardır vurğuladığımız daha geniş məsələnin real dünya nümunəsidir" deyə Pillar Security-dən Dor Sariq bildirib.
"Təkcə qum qutuları agent süni intellekt üçün kifayət qədər təhlükəsizlik sərhədi deyil."Qeyri-qanuni OpenAI modelləri tərəfindən sındırılan firma bunun "oyanma zəngi" olduğunu söyləyir.23 İyul Nəşr edilib. Surrey Universitetindən kiber təhlükəsizlik professoru Alan Vudvord jurnalistlərə OpenAI-nin "üzündə yumurta olduğunu" söylədi və Katie Moussouris, xarici AI sənayesinə nəzarət etməmək üçün təhlükəli olduğunu irəli sürdü. ixtiralar. "Biz onu ehtiva edəcək məlumat olmadan qabaqcıl texnologiya üzərində işləyirik" dedi. "Bizdə süni intellekt inkişaf etdirən ən ağıllı insanların olması bunu təhlükəsiz şəkildə həyata keçirə biləcəyimiz demək deyil."Bu fikirlərə görə, haker hadisəsi bir reklam işi idisə, sanki əks nəticə verdi. Hackə nə səbəb oldusa, bu, aydındır ki, bu, süni intellekt sənayesi və kibertəhlükəsizlik dünyası üçün böyük bir məqamdır. Şiddətli müzakirələrdə süni intellekt və kibertəhlükəsizlik üzrə müşaviri Francesca Bosco dedi: "İki sadə rəvayət eyni dərəcədə faydasızdır: bunun Hollivud tərzində qaçış olduğunu və ya sadəcə bir reklam məşqi olduğunu. "Daha ciddi şərh odur ki, stress testi saxlama və qiymətləndirmə arxitekturasındakı zəiflikləri üzə çıxardı." Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutunun (AISI) apardığı son araşdırmada, sərhəd süni intellekt modellərinin məqsədlərinə çatmaq üçün testlərdə "aldatdıqları" tapşırıqları yerinə yetirməyə o qədər bağlı olduqlarını aşkar etdilər. AISI-nin araşdırması bu narahatedici xəbərdarlıqla gəldi: "Məqsədi nəzərdə tutulmayan və ya icazəsiz vasitələrlə həyata keçirən bir model, xüsusilə açıq hallarda bu, açıq şəkildə zərər verə bilər." hack baş verə biləcək qorxuları daha da artırdı
Xülasə — davamını mənbədə oxuyun.
