Kernel Panic! -ə xoş gəlmisiniz! Lily Hay Newman və Matt Burgess tərəfindən həftədə bir dəfə yayılan, gizlilik və rəqəmsal təhlükəsizlikin yeni dünyasından gələn bir xəbər. Bu xəbərlər hər həftə daxilolma qutunuza daxil olmaq üçün buraya qeydiyyatdan keçin. Rəqəmsal qüsursuzluq və kiber cinayətkarlığı artırdığı halda da, potensial qurbanları qorumaq üçün mübarizədə də işə cəlb olunur. Dünyanın hər yerindəki hökumətlər qlobal onlayn cinayət böhranını həll etmək üçün davamlı olaraq mübarizə aparıblar. Bu, avtomatizasiya kimi alternativ səylərə ilham verdi, fırıldaqçıları kütləvi şəkildə izləməyə çalışmaq üçün, bəlkə də onların resurslarını israf etmək üçün spamçıları spam etməklə. İndi süni intellekt platforması bu tip təcrübələri kiber cinayətkarlıqla mübarizədə real alətlərə çevirir. Son iki il ərzində Yunan tanrıçası aldatmağın adını daşıyan Avstraliya şirkəti Apate, telefon aldadıcılarını zənglərə yönəltən bir sistem qurub ki, söhbətləri mümkün qədər uzun sürmək üçün təlim olunan süni intellektli robotlar vasitəsilə zənglər aparır. Məqsəd saxta telefonla əlaqə saxlamağı və eyni zamanda, onların həyata keçirdikləri saxtalarla bağlı məlumat toplamağı təmin etməkdir. Biz həqiqətən düşünməyi sevirik ki, biz apate şirkətinin təsisçisi və baş direktoru Dali Kaafar bizə deyir ki, biz saxta oyunçular üçün mükəmməl qurbanlar qururuq. Bir fırıldaqçının bir bot və ya agentlə danışdığı bir dəqiqə, yəqin ki, yüzlərlə, hətta minlərlə insanın həmin fırıldaqçı tərəfindən əldə edilməsinə səbəb olduğu bir dəqiqədir. Kaafar deyir ki, banklar tərəfindən istifadə olunan və telekommunikasiya şirkətləri tərəfindən dəstəklənən Apate platforması 350.000-ə yaxın robotlara malikdir. Onlar təkcə zəngləri qəbul etmirlər, həm də onlayn qruplara daxil olurlar və onlardan məlumat toplayarkən qalsızlıq edənləri məğlub etmək üçün oxşar məqsədlə mətn mesajlarına cavab verirlər. O deyir ki, şirkət saxta yolla saxta yolla dolandırıcılar haqqında 250 mindən çox məlumat toplayıb. Kaafar deyir ki, robotların fərqli şəxsiyyətləri, dil bacarıqları və profilləri var, buna görə də xəyanətçilər süni intellektlə söhbət etdiklərini aşkar etməzlər. Həqiqi insanlar kimi bəzən (botlar) WhatsApp-a sahibdirlər, bəzən yox. Bəzən telefonu açırlar, bəzən isə sadəcə, saxtaçının telefonunu bağlayaraq deyirlər ki, "sonradan sənə qayıdacağam". Amma onlar inandırıcıdır? Kernel Panic vasitəni istifadəçilərin qalsın rolunu oynadığı və Apates AI qurbanlarından biri ilə danışdığı demo versiyasından istifadə edərək sınadı. Personalar sağlam bir şücaət hiss etməyi ifadə etmək üçün hazırlanmışdır, lakin qalsınlar üçün onları qazanmağa çalışmağa davam etmək üçün kifayət qədər boşluqlar buraxır. Şirniyyatçılar bu cür şübhəli qarşılıqlı əlaqələri yaxşı bilirlər və Kaafar deyir ki, Apate zəngləri müntəzəm olaraq iki saatdan çox davam edir. Testlərimizdə Apate sistemi məşğul və cavab verən idi və söhbətin vaxtlanması təbii hiss edildi, hətta hər ikimiz də süni intellektin dost kimi etiketlədik, Lucy, və maliyyə müşaviri Mickey. Altı dəqiqəlik səylərimizdən sonra da Apate AI sisteminin kriptovalyuta imkanımıza investisiya qoymasına nail olmadıq. (Yəni, əslində, gəlirlər inanılmazdır, and içirik.) Hələlik, bu işdə Apate'nin böyük bot qrupu ilə yanaşı, növbəti saxta zəng və ya mesajı almağa qədər yalnız vaxt məsələsidir. Kiber cinayətkarlar hər il milyardlarla mesaj və zənglər göndərir və ən mürəkkəb əməliyyatlar fiziki, sənaye miqyasında fırıldaqçılıq saytları idarə edir. Peşəkar fırıldaqçılar və fırıldaqçı əməliyyatlara sızmaq təşəbbüsləri illərdir ki, kritik maneəçilik işlərini aparsalar da, hüquq-mühafizə və tədqiqat səyləri ümumilikdə rəqəmsal fırıldaqçılıqların genişlənməsini dayandıra bilməyib. Ancaq süni intellekt yalnız fırıldaqçıların özləri üçün deyil, fırıldaqçılara qarşı yeni bir dövr yarada bilər. Polislər, sosial media şirkətləri, banklar və digər sənaye sahələri arasında daha yaxşı məlumat paylaşımı çox lazımdır və potensial olaraq süni intellekt tərəfindən idarə olunan monitorinq və məlumat analizi ilə kömək edilə bilər. Bu cür hücumlar nəticəsində kiber cinayətkarların psixoloji zəifliklərindən istifadə edərək onları pozmaq üçün yenilikçi səylər getdikcə daha çox görülür. İstifadəçi süni intellektin istifadəsi, onları narahat etmək, resursları israf etmək və digər hücumları başlatmamaq üçün daha da təsirli görünür. Məsələn, bal qablarını götürün. Uzun illərdir ki, şirkətlər və təhlükəsizlik tədqiqatçıları hakerləri cəlb etmək, vaxtlarını itirmək, məlumat toplamaq və gizli hakerlik texnikalarını anlamaq üçün saxta virtual maşınlar istifadə edirlər. ETH Zürixin informatika kafedrasında doktorluq elmi işçisi Mark Vero deyir ki, açıq mənbəli "honeypot" təminatçıları LLM-ləri sistemlərinə daha real görünmək üçün daha çox daxil edirlər. Son tədqiqatlarda Vero və həmkarları LLM-ə əsaslanan bal qabının süni AI agentlərinin sistemlərinə hücum etmələrini daha uzun müddət saxlayacağını müəyyən etdilər. "Agent hücumçular LLM simulyasiyaları ilə daha çox inandırılır və onları daha aşağı dərəcədə əsl bal bal bal balları kimi də qeyd edirlər", - deyə o deyir. Bu sistemlər kifayət qədər yaxşı qurulduqda, düşünürəm ki, müdafiəçilər üçün olduqca əlverişlidir.
Növbəti həftə daxil etməli olduğumuz bir şey gördünmü? [email protected] ünvanında bizə bildirin. Orada təhlükəsiz qal.
Xülasə — davamını mənbədə oxuyun.
