Maxwell ZeffBusiness 13 Avqust 2026-cı il, 18:37 OpenAIOpenAI-nin fırıldaqçı agentinin sındırılması Inside Safety Reckoning Inside süni intellekt təhlükəsizliyi və kibertəhlükəsizlik üçün dönüş nöqtəsi oldu. Bu, həm də ona gətirib çıxaran mədəniyyətlə bağlı daxili suallara səbəb oldu. Şəkil-İllüstrasiya: NİMLİ Heyət; ŞəkillərŞərhYükləyicisiHekayəniSaveBu hekayəniSaxlaCommentLoaderHekayəniSaveBu hekayəniSaxlaOpenAI-nin liderləri şirkət tarixindəki ən böyük böhranlardan birinə cavab vermək üçün işçiləri bir araya toplayır – bu, onun süni intellekt təhlükəsizliyi, kibertəhlükəsizlik və uyğunlaşdırma bölmələrini əhatə edir. ChatGPT istehsalçısı deyir ki, araşdırmaları ləngitdi, milyonlarla dollar xərcləyib və bir neçə komandaya daxili təhlükəsizlik testini başa çatdırmaq üçün Hugging Face platformasını pozan bir sıra saxta süni intellekt agentlərini araşdırmaq üçün hər şeyi atmağı tapşırıb.
Bununla belə, Hugging Face hadisəsi OpenAI liderlərini və işçilərini süni intellekt laboratoriyasının mədəniyyətinin ilk növbədə bu hadisəyə necə imkan verdiyini araşdırmaq üçün ilhamlandırdı. Şəxsi daxili məsələləri müzakirə etmək üçün anonimlik şərti ilə danışan bir neçə indiki və keçmiş OpenAI işçisi WIRED-ə bildiriblər ki, onlar yeni AI modellərini və məhsullarını tez bir zamanda göndərmək üçün rəqabət təzyiqlərinin olduğuna inanırlar. uyğunlaşdırma. “Biz Astra və gələcək modelləri hazırlamaq üçün gördüyümüz işin nümayiş etdirdiyi kimi, daha güclü təlim, uyğunlaşdırma, təhlükəsizlik və təhlükəsizlik testi, yerləşdirmə təcrübələri və idarəetmə tələb edən model qabiliyyətinin yeni səviyyələrinə çatırıq”, OpenAI prezidenti və həmtəsisçisi Qreq Brokman WIRED-ə verdiyi açıqlamada bildirib. Hələ 2024-cü ildə OpenAI-nin o zamankı uyğunlaşma rəhbəri Jan Leike Anthropic-ə qoşulmaq üçün getdi və yolda təhlükəsizliyin parlaq məhsullar üçün arxa plana keçdiyini xəbərdar etdi. İki il sonra, Hugging Face hücumu süni intellekt sənayesi üçün dönüş nöqtəsidir və bu gün süni intellekt agentlərinin təhlükəsizlik, təhlükəsizlik və uyğunlaşma düzgün şəkildə nəzərə alınmadıqda real dünyada zərər verə biləcəyini nümayiş etdirir. “Biz buna ən ciddi şəkildə cavab veririk” dedi.
Bu gün müzakirə etdiyimiz hərəkətlər sərhəd süni intellekt üzrə qiymətləndirmələrin aparılmasının gözlənilməz yan təsiri idi."Bəzi OpenAI işçiləri WIRED-ə bildiriblər ki, onlar bu hadisənin şirkət daxilində əsl dəyişikliyə ilham verəcəyinə ümid edirlər. OpenAI gələcək süni intellekt modellərinin buraxılışını yavaşlatmağı öhdəsinə götürüb və onun təsirinin azaldılmasının uğursuz olduğu sahələr haqqında xüsusilə açıqdır. X-dakı bir yazıda vəziyyətin həllinin "bəzi problemləri həll etməyi deyil, həm də mədəniyyətimizi dəyişdirməyi tələb etdiyini" söylədi. OpenAI təhlükəsizlik mühəndisləri Dalton və Eric Wallace, "Qara Şapka" söhbətində, Hugging Face insidentinin may ayında, şirkətdən xəbərsiz olaraq, bir neçə AI agentinin təcrid olunmuş sınaq mühitlərində işlədiyini düşündüyü zaman başladığını söylədi. İyul ayına qədər mesaj lövhəsi, süni intellekt agentlərinin Hugging Face platformasını pozmaq kimi daha böyük məqsədlərinə çatmağa çalışmaq üçün bir çox xidmətə müdaxilə etdiklərini öyrənəndə, onların həll etməyə çalışdıqları təhlükəsizlik testlərinə cavabların ola biləcəyinə inanırdılar. “Onlar inanılmaz dərəcədə səliqəsiz idilər.
Əgər bu məsələdə ciddisinizsə, süni intellektiniz internetə girib dərhal sonra bunu təkrar edə bilməməlidir” deyə, WIRED ilə danışmaq üçün anonimlik tələb edən keçmiş OpenAI əməkdaşı deyir. Aqarval WIRED-in şərh sorğusuna dərhal cavab vermədi. WIRED həmçinin öyrəndi ki, Dylan Scandinaro artıq OpenAI şirkətinin rəhbəri kimi xidmət etmir. kibertəhlükəsizlik də daxil olmaqla süni intellektdən gələn fəlakətli riskləri azaltmaq - baxmayaraq ki, o, şirkətdə qalır, təxminən altı ay əvvəl Anthropic-dən Scandinaro-nu ovladı.
CEO Sam Altman sosial media yazısında gəldiyini elan edərək, Skandinaronun "hər yerdə rastlaşdığım ən yaxşı namizəd" olduğunu qeyd etdi. OpenAI WIRED-ə bildirir ki, xüsusi hazırlıq sahələri kibertəhlükəsizlik, biologiya və rekursiv özünü təkmilləşdirmə üzrə xüsusi liderlərə malikdir və onlar müvəqqəti olaraq təhlükəsizlik üzrə məsləhət qrupunun rəhbəri və təhlükəsizlik sistemlərinin rəhbəri Saachi Jaynə hesabat verirlər. Bu dəyişikliklər, OpenAI-nin Hugging Face hadisəsinə reaksiyasını idarə etmək üçün yeni təhlükəsizlik liderlərinə səlahiyyət verib. Onların arasında birincisi Heidecke-dən sonra OpenAI-nin təhlükəsizlik üzrə vitse-prezidenti vəzifəsini yerinə yetirən şirkətin keçmiş birləşmə rəhbəri Amelia “Mia” Glaesedir.
O, son həftələrdə digər liderlər arasında baş informasiya təhlükəsizliyi zabiti Dane Stuckey və Brockman ilə sıx əməkdaşlıq edir. Glaese, OpenAI-nin ChatGPT və Codex kimi əsas məhsulların rəhbəri Thibault “Tibo” Sottiaux ilə uzunmüddətli münasibətdədir.
Xülasə — davamını mənbədə oxuyun.
