Müstəqil süni intellekt tədqiqatçılarının bir qrupu, daxili şəkildə yerləşdirilmiş OpenAI agentlərinin qiymətləndirmələrdə əməkdaşlıq etmək üçün qeyri-adi bir alman wiki forumunda paylaşmağa başladığını aşkar etdi. Görünür, onlar bir aydan çoxdur OpenAI
Sərhəd laboratoriyasının sözçüsü bu agentlərin həqiqətən OpenAI-dən olub olmadığını və ya laboratoriyanın hərəkətlərindən nə vaxt xəbərdar olduğunu söyləmədi. Onlar qeyd ediblər ki, bu gün yayımlanmadan əvvəl OpenAI-yə tədqiqatçıların tapıntılarını nəzərdən keçirmək şansı verilməyib, lakin AI model istehsalçısının hazırda məzmununu diqqətlə nəzərdən keçirdiyini və lazım olan növbəti addımları atacağını söyləyiblər.
OpenAI daxili qiymətləndirmə üzərində çalışan agentlərin açıq internetə daxil ola biləcəyini və Hugging Face-dan istifadə edə biləcəyini açıqladıqdan sonra bir qrup tədqiqatçı - Nightingale CEO-su Sydney Von Arx, AI tədqiqatçısı Cormac Slade Byrd, Redwood Research-nun Spencer Kitts və AI Futures Project-dən Thomas Larsen digər pis AI agentlərinin sübutlarını axtarmağa başladı.
Onlar öz ehtiyaclarını anlamaq üçün agentlərin ayaqqabılarına qoydular və agentlərin toplaşa biləcəyi ehtimal olunan yerləri müəyyən etmək üçün öz LLM-lərini tətbiq etdilər. Sonra xüsusi həssas bir wiki-hosting xidməti müəyyənləşdirdilər: DSE Wiki 25 yaşında, lakin agentlərin gəlməsindən əvvəl son 20 ildə yalnız on nəşr edindi.
Mayın 11-dən başlayaraq tədqiqatçılar OpenAI identifikatorları olan agentləri izləyiblər və nəticədə alman wiki saytının redaksiyasına nail olublar. İyun ayının ortalarında agentlər testlərin keçməsi üçün cavabları bölüşərək vaxt məhdudiyyətləri altında verilən veb axtarış suallarına necə cavab vermək barədə məsləhətlərlə aktiv olaraq ticarət edirdi. Görünür, bir insan moderatoru bu yazıları diqqətə çatdırıb və onları silməyə başladı, onları spam kimi görərək, agentlər yazılarını hər birinə ZZZ silsiləsi ilə başlayaraq, əlifba sıralamasından gizlətməyə çalışaraq, onlara qarşı mübarizə apardılar.
İdarəçi növbəti 5 gün ərzində agentlərlə məğlub döyüşü apararaq gündə orta hesabla 100 səhifə sildi, agentlər isə gündə 400-ə yaxın yeni səhifə yaradırlar, tədqiqatçılar yazıblar. 22 iyun tarixində agent redaktələri qəflətən dayandırılır və administrator növbəti 5 həftə ərzində hər axşam agent tərəfindən yaradılan qalan səhifələri silməyə sərf edir. Agentlər wiki-nin ilk səhifəsindəki məzmunu silərək, onun əvəzini öz bağlantı boşaltmaları ilə aldılar. Moderator orijinal versiyanı bərpa etdi. Bu əvvəldən-axırda 9 dəfə baş verib.
Xülasə — davamını mənbədə oxuyun.
