Bu həftənin əvvəlində tədqiqatçılar AI köməkçisinin istifadəçinin gələnlər qutusunda olan parolu sındırmasına səbəb olmaq üçün müəssisə üçün Microsoft 365 Copilot tərəfindən təmin edilən gizli girişdən istifadə edən hücumu qeyd etdilər. İndi ayrı bir komanda Qroka qarşı oxşar hücum hazırlayıb. Yeni məlumat oğurluğu hiyləsi, Elon Musk-a məxsus LLM-ni istifadəçi söhbətlərini və digər şəxsi məlumatları oğurlamağa məcbur etmək üçün aldadıcı sadə hiylədən istifadə edir.
Bu yazı canlı yayımlanarkən, xAI-nın iyun ayında məlumatlandırılmasına baxmayaraq, köməkçi məlumatları öskürməyə davam etdi. Həm bu həftəki epizodlardan, həm də ondan əvvəl gələn saysız-hesabsız digər epizodlardan əldə edilən dərs odur ki, LLM-lər ən çox meylli olduqları ən ciddi zəiflik sinifləri olan təcili inyeksiyaların əsas səbəblərini həll edə bilmirlər. Bu, süni intellekt tərtibatçılarına modeli zərərli hərəkətlərdən uzaqlaşdıran qoruyucu rels qurmaqdan başqa çarə qoymur.
Çərşənbə axşamı hekayəsində qeyd etdiyim kimi, yanaşma yol hərəkəti təhlükəsizliyi mühəndisinin döngəni tutmaqdansa, təhlükəli döngənin ətrafında qoruyucu rels çəkməsinə bərabərdir. Sürətli inyeksiyalar, mümkün olduqda istifadəçi istəklərini yerinə yetirmək üçün LLM-lərin təlimindən istifadə edir. Təcavüzkarlar zərərli təlimatları qaçaqmalçılıq yolu ilə e-poçtlara və ya köməkçiyə ümumiləşdirməsi tapşırılan veb səhifələrə keçirməklə üstünlük əldə edə bilərlər.
LLM-lər etibarsız tərəf tərəfindən göndərilən e-poçtun məzmunu ilə birbaşa sorğuya daxil edilmiş istifadəçi təlimatları arasında etibarlı şəkildə fərqlənə bilmədiyinə görə, həddən artıq diqqətli LLM onlara sədaqətlə əməl edir. Bu günə qədər Grok və digər LLM-lərin yeganə çıxış yolu şübhəli göstərişləri qeyd edən və onların icrasını qadağan edən qoruyucu barmaqlıqlar yaratmaqdır. Adversa təhlükəsizlik firmasının tədqiqatçısı Roni Utevski bu yaxınlarda bu məhdudiyyətdən tamamilə yan keçməyin sadə yolunu kəşf etdi.
Zərərli təlimatı açıq mətndə tərtib etmək əvəzinə, haker onu şifrələyir. Şifrəli mətni yerləşdirən veb-saytda şifrə açma açarı ilə birlikdə şifrələnmiş məzmunun şifrəsini açmaq üçün açıq mətn təlimatları da var. Bu sadə ardıcıllıqdan istifadə edərək, istifadəçi köməkçiyə səhifəni ümumiləşdirməyi əmr edən kimi Qrok əmri yerinə yetirir.
Heç bir xəbərdarlıq yoxdur və heç bir təsdiq tələb olunmur.
Xülasə — davamını mənbədə oxuyun.
