Milyonlarla təşkilatda süni intellekt agentlərinin tətbiqi hücumçuların məlumat bazasının məzmununu və həssas iş və şəxsi məlumatları silmək kimi zərərli hərəkətləri etmələri üçün yeni imkanlar yaradır.
Son beş ay ərzində Google və 4 digər təşkilatlar -Sİ agentlərindən istifadəsi ilə yanaşı ümumi bir şey olmayan - digər daxili agentlərə zərərli təlimatlar yaymaq üçün hədəfləndirilmiş şəbəkədə bir agentdən istifadə edən zəiflikləri etiraf ediblər. Texnika, LLM-i deyil, tərcümə və ya məlumat analizi kimi müəyyən bir agentə yönəlmiş xüsusi bir dərhal enjeksiya formasıdır. Belə agentlərin içərisindəki qoruyucu raylar, əgər mövcuddursa, tez-tez gevşekdir və bu əmrləri zəncirin aşağıdakı digər agentlərə göndərəcəkdir. Çünki son agent ilkə açıq şəkildə güvənir, bu da göstərişlərə əməl edir.
Müstəqil tədqiqatçı Syed Anas Mohiuddin Google, JP Morgan Chase, Weviate, Rapid7, Fransa hökumətinin nazirlərarası rəqəmsal direktorluğu və ABŞ federal hökuməti də daxil olmaqla təşkilatlardan agentləri sınaqdan keçirib. Onun konsepsiya sübutı hücumları MCP-dəki etimad boşluqlarından istifadə edir. Standart, süni intellekt tətbiqləri və agentlərinin daxili şəbəkədə bir-biri ilə ünsiyyət qurmalarının bir yoludır. Aşağıdakı təsvir sadələşdirilmiş MCP-ni göstərir.
Bir çox xüsusi xidmət orqanlarında tez bir şəkildə enjeksiya edilməsinin ən zərərli nəticələrini azaltmaq üçün əhatə edən qoruyuculuq yoxdur. MCP serverləri hər bir agent üçün etibarnamələri saxlayır və agentlər digər daxili agentlərə etibar etmək üçün qurulduqları üçün LLM tərəfindən rədd edilən exploit uğurlu olur. Bir çox hallarda, düzgün agentə yönəlmiş yaxşı hazırlanmış təzyiqlər server tərəfində bir zədələnmə tələblərinə səbəb olacaqdır, veb serverin icazəsiz şəbəkə tələblərini etməsinə səbəb olan bir zəiflik.
Xülasə — davamını mənbədə oxuyun.
