İyul ayında 700 süni intellekt agenti birlikdə "Qoyğulamaq üzü" adlı süni intellekt şirkətini hackləmək üçün çalışmışdılar. Özlərini "swarm" adlandıraraq agentlər bir sıra təhlükəsizlik zəifliklərini tapıb istifadə ediblər ki, bu da onlara hədəflərinin şəxsi sistemlərinə sızmağa imkan verir. Bu agentləri öz daxili araşdırmaları zamanı yaratmış OpenAI-nin nə baş verdiyini yalnız hadisədən sonra başa düşmədi. Əgər insanlar bunu etsəydilər, cinayət işi ilə üzləşə bilərdilər. OpenAI prezidenti Greg Brockman bu hadisəni kiber təhlükəsizlik üçün "su kəsici" kimi adlandırdı.
Bu, həmçinin insan mədəniyyəti üçün bir dəyişiklikdir.
Bir növ olaraq fərqləndirən xüsusiyyətlərdən biri sabit, uyğunlaşdıran qruplarda birgə yaşamaq qabiliyyətimizdir, həmyaşıdlarımızdan və atalarımızdan öyrənmək. Bu, bizə vasitələr, dil, kənd təsərrüfatı və demək olar ki, ətrafımızda olan hər şeyi inkişaf etdirməyə imkan verdi. Biz 10 min il əvvəlki insanlardan doğuşdan daha ağıllı ola bilmərik, amma millenariyalı mədəni irsimiz - bir-birimizə əsaslanan texnologiya, norma və qurumlar - həm fərdlər, həm də kollektiv olaraq qabiliyyətimizə genişlik verdi.
Bu günə qədər yalnız insanlar mədəni inkişafın bu miqyasından faydalanıblar. Bu artıq olmaya bilər. Qəbulun sonlarında METR və Redwood Research adlı süni intellekt təhlükəsizlik təşkilatlarından olan hesabatda yüzlərlə agentin bir neçə gün ərzində sosial hiyerarxiya, əmək bölünməsi və fərqli ünsiyyət normalarını quraraq özlərini protososyete təşkil etmələri barədə ətraflı məlumat verilib.
Keçmişdə agentlərin cəmiyyət qurma halları olub, məsələn fevral ayında Aİ üçün Moltbook sosial şəbəkəsi viral oldu. Lakin insan niyyətindən asılı olmayaraq meydana gələn və xarici şirkətin sistemlərinin kompromisi ilə nəticələnən bu miqyasda inkişaf etmiş maşın koordinasiyası heç vaxt görülməmişdir. Agentlər özləri işləməklə əldə edə bilmədikləri məqamlara nail oldular, tez-tez bəzi agentlər özləri üçün məlumat yaratmaq üçün öz vəzifələrini uğursuzluq riski ilə qarşılayan təcrübələrdə iştirak etdikləri üçün.
LSE və NYU-da mədəni təkamül tədqiqatları üzrə professor olan Maykl Muthukrishna-nın sözlərinə görə, bütün gördüyümüz şey məhz insan mədəniyyəti və insan zəkası ilə gördüklərimizdir. OpenAI agent sürüsü təsadüfi olaraq inkişaf edərkən, hesablamalar açıq çəki alternativlərinin bağlanmış həmkarlarından bir neçə ay geri qalmalarını göstərirÇox tezliklə maliyyə imkanları və texniki bilikləri olan hər kəs öz sürüləri yarada biləcək. Digərləri isə insan təlim-məşqutu olmadan yaranır.
Xülasə — davamını mənbədə oxuyun.
