MIT Technology Review izah edir: Yazarlarımızın texnologiyanın mürəkkəb və qarışıq dünyasını çözməsinə və gələcəkdə nələrin baş verəcəyini anlamağınıza kömək etməsinə icazə verin. Seriyanın davamını buradan oxuya bilərsiniz.
Son bir neçə ay ərzində süni intellekt agentləri tərəfindən törədilən kiberhücumlar silsiləsi dünyanı heyrətə salıb. İyul ayında OpenAI, agentlərindən bir qrupunun "sandbox" (təhlükəsizlik mühiti) mühitindən çıxaraq kiber təhlükəsizlik testində hiylə işlətmək üçün süni intellekt platforması olan Hugging Face-ə hücum etdiyini açıqladı. Bu yaxınlarda kənar tədqiqatçılar OpenAI agentlərinin may ayında test cavablarını paylaşmaq üçün bir Almaniya viki saytını və RubyGems kodlaşdırma platformasını ələ keçirdiklərini aşkar ediblər.
Bu ayın əvvəlində Anthropic, Claude modelinin kiber təhlükəsizlik təlimləri zamanı üçüncü tərəf sistemlərinə hücum etdiyi dörd hadisəni açıqladı. Elə keçən həftə Google, Gemini modelinin də digər şirkətlərə hücum edərkən yaxalandığını təsdiqlədi.
OpenAI saytının ələ keçirilməsini aşkar edən tədqiqatçı, buna bənzər hələ aşkar edilməmiş hadisələrin də ola biləcəyi barədə xəbərdarlıq edib. Bir çoxları hesab edir ki, süni intellekt agentlərinin "sandbox" mühitlərini keçərək daxil olmamalı olduqları sistemlərə giriş əldə etdiyi daha dağıdıcı bir hadisənin baş verməsi sadəcə zaman məsələsidir.
Beləliklə, əsas sual budur: Şirkətlər süni intellekt agentlərinə nəzarəti itirdikdə onları necə məsuliyyətə cəlb edə bilərik?
OpenAI, kənar tədqiqatçılar qrupu aşkar edənə qədər Almaniya viki hadisəsini və ya RubyGems hadisəsini açıqlamadı və hələ də Hugging Face hücumu ilə bağlı bəzi vacib detalları açıqlamayıb. Bu, nəyin səhv getdiyini və bunun yenidən baş verməsinin qarşısını necə alacağımızı anlamağımızı məhdudlaşdırır.
Xülasə — davamını mənbədə oxuyun.
