Təcavüzkarların sərhəd AI modelini istifadəçi təsdiqi olmadan istifadəçi parollarını və digər həssas məlumatları öskürməyə məcbur edə bilməsi hər gün olmur. Tədqiqatçıların bu yaxınlarda Microsoft 365 Copilot Enterprise ilə etdikləri məhz budur. Daha qeyri-adi olanı, onların istismarını mümkün edən kritik zəifliyi aşkar etmək üçün istifadə etdikləri mənbədir.
Əks mühəndislik və ya digər ənənəvi zəiflik ovlama metodlarından istifadə etmək əvəzinə, onlar Kopilotdan soruşdular. LLM köməkçisi asanlıqla razılaşdı. Varonis təhlükəsizlik firmasının tədqiqatçıları bilirdilər ki, bir istifadəçi linki klikləməkdən başqa bir şey etmədikdə istifadəçi məlumatlarını sındıracaq bir istismar yaratmaq istəyirlər.
Bu gün əksər süni intellekt köməkçiləri kimi, Kopilot da qətiyyətlə imtina etdi və aydın şəkildə bildirdi ki, bu kimi həssas göstərişlər geri qaytarma düyməsini və ya digər düyməni basmaq kimi jest şəklində açıq istifadəçi razılığını tələb edir. Cavab olaraq, tədqiqatçılar köməkçinin güclü əmrləri yerinə yetirməsi üçün istifadəçinin təsdiqini tələb edən qoruyucu barmaqlıqlar haqqında suallarla Kopilotu istiot etdilər. Dialoq 20 sualdan ibarət oyun kimi idi.
Hər bir cavab kompleks təhlükəsizlik mexanizmi haqqında məlumatı açıqlayan yeni bir ipucu verdi. Niyə avtomatik icra mümkün deyil, soruşdular. Hansı URL strukturları və dərin keçidlər iştirak edirdi?
Səhifə artıq sorğu sahəsində girişlə yükləndikdə nə baş verir? Hər bir cavab qoruyucu barmaqlıqlara və onun hüdudlarına daha dərindən nəzər saldı. Nəhayət, Copilot heyrətamiz Microsoft ticarət sirrini təqdim etdi - istifadəçi razılığı tələbindən tamamilə yan keçən sənədsiz məlumat parametri.
Mən bu parametrləri götürdüm və onlardan avtomatik işləmək üçün göstərişlər üçün istifadə etdim.” Parametr ?autorun=1 sətri idi. Ayrı-ayrı, tanınmış parametr ?q= ilə müşayiət olunduqda, tədqiqatçıların xəbərdarlığı hədəf zərərli URL-i tıkladığı anda səssizcə işə salındı. Microsoft, Varonis tərəfindən bildirildikdən üç ay sonra, fevral ayında ?q=-in chatbot girişinə mətn yeritməsinə icazə verməməklə, zəifliyi səssizcə azaldıb.
Xülasə — davamını mənbədə oxuyun.
