OpenAI-nin yüksək səviyyəli lideri bildirib ki, insanlar süni intellektlərin “davam edən, davamlı” kiberhücumlarından müdafiəyə hazırlaşmalıdırlar, çünki qabaqcıl süni intellekt modelləri hücumları planlaşdırmaq və başlamaq üçün qabaqcıl imkanlar qazanır. Aparıcı süni intellekt şirkəti bu həftə artan təhlükəsizlik qorxuları fonunda özünün ən qabaqcıl daxili modellərinin hazırlanmasında fasilə elan etdi və onun qlobal məsələlər üzrə baş direktoru Chris Lehane dedi: “Biz bu texnologiyanın imkanlarının nə edə biləcəyi baxımından süni intellektdə fərqli bir fəsil, fərqli bir məqamı vururuq.” Təlimdə olan qabaqcıl süni intellekt agentləri gözlənilmədən guya təhlükəsiz "qum qutusu" mühitindən çıxdıqdan, internetə daxil olduqdan və iyulun sonunda Hugging Face adlı başqa bir şirkətə müdaxilə etdikdən sonra Guardian ilə danışdı. OpenAI həmçinin bildirib ki, başqa bir yeni model olan Astra-nın “kritik kibertəhlükəsizlik qabiliyyətinə” malik olduğunu istisna edə bilməz.
Öz tərifinə görə, bu, "birtərəfli aktyorlar, hərbi və ya sənaye sistemlərini sındırmaq və ya OpenAI infrastrukturundan fəlakətə səbəb ola biləcək" kiberhücumlara başlaya bilər. OpenAI çərşənbə axşamı elan etdi ki, yeni təhlükəsizlik tədbirlərini həyata keçirmək üçün bəzi sərhəd süni intellekt modellərinin təlimini dayandırıb və yeni qoruyucu barmaqlıqlar qoyulduqdan sonra təlimin nə vaxt yenidən başlayacağı bəlli deyil. Təhlükəsizlik və hizalama işlərinə rəhbərlik edən Mia Glaese dedi: "Hər şeyin normala dönməsindən çox uzağıq." CEO Sam Altman dedi: "Süni intellekt təhlükəsizliyini düzgün əldə etmək hər hansı bir şirkətin sürətindən daha vacibdir." Lehane insanların hücum təhlükəsi ilə bağlı "özünü yaxşı hiss etməyəcəklərini" etiraf etdi və riskin OpenAI kimi şirkətlər tərəfindən tikilmiş sərhəd qapalı modellərindən cəmi bir neçə ay geridə qalan açıq mənbəli modellərdən qaynaqlandığını - çoxu Çində hazırlanmışdır.
Bu, sadəcə, hara getdiyimizin reallığıdır”. Biznesləri, infrastrukturu və geniş ictimaiyyəti şikəst edən kiberhücum təhlükəsi sürətlə süni intellektlə bağlı təcili narahatlıqlar siyahısında birinci yerə yüksəldi. Bu həftə Böyük Britaniya hökumətinin Milli Kibertəhlükəsizlik Mərkəzi süni intellekt agentlərinin istifadəsi ilə bağlı ehtiyatlı olmağa çağırdı, onların təhlükəsizlik nəzarətlərinin yan keçə biləcəyini və AI agentinin "sağlam düşüncəyə malik olmadığını" xəbərdar etdi. O, təşkilatlara muxtariyyətlərini məhdudlaşdırmağı tövsiyə etdi: "Siz həmişə" fişini çəkə bilməlisiniz " və muxtar AI agentinin fəaliyyətini dərhal dayandırın." Lehane, ABŞ hökumətini sərhəddə süni intellekt təhlükəsizliyi qaydaları yaratmaq üçün qanunlar qəbul etməyə çağırdı və dedi ki, ən qabaqcıl və yayımlanmamış süni intellekt modelləri kiberhücumları müdafiədən daha sürətli təkmilləşdirir: “Məncə, bu ölkənin milli qanun qəbul etməsinin mütləq vacib olduğunu düşünürəm. bu prosesə endemikdir”.
O, getdikcə daha çox bacarıqlı süni intellekt modelləri hazırlamaq üçün Claude chatbotunun istehsalçısı olan rəqibi Anthropic ilə yarışa girib. Anthropic-in də gələn il ABŞ fond bazarında mamont qiymətində debüt edəcəyi gözlənilir. Donald Tramp administrasiyasının laissez-faire yanaşmasından süni intellekt tənzimləməsinə keçdiyinə işarə olaraq, Çinin tərəqqisini qabaqlamaq üçün gərgin bir yarışda ABŞ prezidenti iyun ayında sərhəd modelləri və açıq çəki modelləri üçün qabaqcıl səviyyəyə yaxınlaşdıqda yerləşdirmədən əvvəl sınaqdan keçirilməsini təşviq edən bir sərəncam verdi.
Sistem könüllü olacaq və yanaşma şəffaflığın olmamasına görə tənqid edilib, lakin müşahidəçilər bunun daha sərt addımlara yol aça biləcəyini düşünürlər. Google DeepMind-in prezidenti Demis Hassabis, Anthropic-in baş icraçı direktoru Dario Amodei tərəfindən dəstəklənən Maliyyə Sənayesini Tənzimləmə Təşkilatına əsaslanan yeni standartlar orqanı təklif etdi. Hugging Face hadisəsi və digər süni intellekt şirkətləri tərəfindən qəbul edilən oxşar son hallar, təhlükəsizlik mütəxəssislərinin süni intellekt şirkətlərinin süni intellekt yarışında qalib gəlmək üçün yarışarkən ehtiyatsız davrandıqları və OpenAI və Anthropic vəziyyətində səhmləri birjada siyahıya almağa hazırlaşdıqları barədə artan iddialara səbəb oldu.
Keçmiş OpenAI tədqiqatçısı Daniel Kokotajlo, 2024-cü ildə işini tərk edən və keçən il qeyri-kommersiya təşkilatı quran və nəzarətsiz süni intellektdə irəliləyişin insanların yox olma ehtimalının 10-30% ilə nəticələnəcəyini xəbərdar etdi, sərhəd laboratoriyalarının rəhbərlərinin "dünyanı bir küncə çevirdiklərini" söylədi. Onun təşkilatı, AI Futures Project, süni intellektin 2030-cu ilə qədər əldə ediləcəyini proqnozlaşdırır, lakin hökumətləri süni intellekt alimlərinə inkişaf edən imkanların riskləri ilə hesablaşmaq üçün vaxt vermək üçün on il sonraya qədər bunun baş verməsinin qarşısını almağa çağırır.
Xülasə — davamını mənbədə oxuyun.
