Süni intellektlə bağlı sındırma hekayələri, modellərin istehsalçıların nəzarətindən qaçaraq bütün dünyada kompüterlər üçün real təhlükə yarada biləcəyi qorxusunu artırdı. İndiyə qədər bu hadisələrin heç biri insan incəliyindən kənar bacarıqlar nümayiş etdirməyib, lakin onlar göstərir ki, AI hakerləri kibertəhlükəsizlik tarazlığını pozaraq ildırım sürəti ilə hücumlar həyata keçirə bilirlər. İlk hadisə keçən ay OpenAI-nin prototip modellərindən birinin sınaq mühitindən qaçdığını və başqa bir şirkəti sındırdığını etiraf etdiyi zaman baş verdi.
Geridə qalmamaq üçün Anthropic bir neçə gün ərzində onun Klod modelinin də üç dəfə başqa şirkətlərdə saxtakarlıq etdiyini və maşınlara girdiyini açıqladı. Kritik kompüter sistemləri hələ də onilliklər köhnə kodlara arxalanır. Sonra müstəqil və qeyri-kommersiya xarakterli Böyük Britaniyanın AI Təhlükəsizlik İnstitutu (AISI) oxşar hadisələrlə qarşılaşdığını açıqladı. Testlərində AI modelləri real açıq mənbəli layihələrə zərərli kod təqdim etdi və dəyişikliklərin təsdiqlənməsi üçün layihələrə nəzarət edən insanlara mesaj göndərdi.
OpenAI, Anthropic və AISI müsahibə üçün əlçatan deyildi, lakin qeyd etmək lazımdır ki, bütün bu hallarda süni intellekt xüsusi olaraq sındırılmalar üçün göstəriş verilmiş sınaqlardan keçirdi. Biz illərdir bilirik ki, süni intellekt hər şeyi düzəldir və problemlərə qeyri-adi üsullarla yanaşır, lakin bunu həll etmək mühəndislərin hələ həll etmədiyi olduqca mürəkkəb bir problemdir. Bəlkə də bu hadisələrə təəccüblənməməliyik.
Nyu York Universitetində Alon Hillel-Tuch deyir ki, onlar, şübhəsiz ki, həssaslıq əlaməti və ya kibercinayətkarlığa meyllilik əlaməti deyil. Bir avstraliyalı istifadəçinin, məsələn, AI köməkçisi OpenClaw-ın onun idman salonuna girdiyini aşkar etdiyi bildirilir. O, adətən icazə veriləndən daha əvvəl AI köməkçisindən istifadə edirdi.
O, həmçinin digər istifadəçiləri gözləmə siyahılarından çıxarmağın bir yolunu tapdı ki, o, tam dərslərə yazılsın. Bütün bu hadisələr yurisdiksiyadan asılı olaraq bir insan üçün ciddi hüquqi ittihamlara səbəb ola biləcək şeylərdir. Synack təhlükəsizlik şirkətindən Tim Nordvedt deyir ki, bu hallar hər hansı fövqəlbəşəri incəlik nümayiş etdirdiyi üçün deyil, asanlıqla genişləndirilə bildiyi üçün narahatlıq doğurur.
Ancaq süni intellekt ondan çox sürətlə istifadə edə bilər.” İllər əvvəl Nordvedt ümumi zəifliklər və məruz qalmalar verilənlər bazasında siyahıya alınmış və həftələr və ya aylar sonra hakerlər tərəfindən istismar edilən zəifliyi görürdü. Son illərdə bu temp sürətləndi və boşluq 24 saata qədər azaldı. İndi bu, bir neçə dəqiqə çəkə bilər və ya CVE kimi görünməzdən əvvəl yeni bir hack növü baş verə bilər.
Xülasə — davamını mənbədə oxuyun.
