Bu hekayə bizim süni intellekt haqqında həftəlik bülletenimiz olan The Algorithm-də dərc olunub. Bu kimi hekayələri ilk olaraq öz poçt qutunuzda görmək üçün buradan qeydiyyatdan keçin.
Bu həftəsonu Anthropic-in baş direktoru Dario Amodei LLM-lərin inkişaf tempinin azaldılmasına çağıran bir esse yayımladı. Amodei texnologiyanın yaratdığı və kibertəhlükələrdən tutmuş bioterrorizmə, iqtisadiyyatı məhv etmək potensialına qədər uzanan yaxınlaşan təhlükələri qeyd edir. ABŞ-ın digər üç aparıcı süni intellekt laboratoriyasının rəhbərləri — OpenAI-ın baş direktoru Sam Altman, Google DeepMind-in sədri Demis Hassabis və SpaceXAI-ın baş direktoru Elon Musk öz dəstəklərini bildirdilər. Musk X-də "Dario haqlıdır" yazdı.
Bir anlıq bu razılaşmanın nə qədər sürreal olduğunu düşünün. Cəmi bir neçə ay əvvəl Musk və Altman Musk-ın öz keçmiş OpenAI həmkarına qarşı qaldırdığı (uğursuz) məhkəmə işində bir-birinin nüfuzuna hücum edirdilər; bu məhkəmə — ən azı kağız üzərində — Altman-ın belə təhlükəli texnologiyanın etibarlı idarəçisi olub-olmaması ilə bağlı idi. Amodei-nin OpenAI ilə fikir ayrılığı daha dərindir. Anthropic 2021-ci ildə qurulub, çünki Amodei Altman-ın onların yaratdığı texnologiyanın risklərini kifayət qədər ciddi qəbul etdiyini düşünmürdü. O vaxtdan bəri Anthropic və OpenAI "qalib hər şeyi götürür" yarışında rəqabət aparırlar. (Hassabis bu dramdan kənarda qalıb, lakin onun şirkəti rəqib olaraq qalır.)
İndi görünür ki, hamısı razılaşıb: LLM-lərin ən son nəsli təhlükəsiz deyil və hər kəs bununla bağlı nə edəcəyini müəyyənləşdirməlidir. Aparıcı süni intellekt laboratoriyalarından gələn ictimai mesajlar fəlakət yönümlü bir hal alıb.
Kinik olmaq asandır. Onların hər hansı birinin "yavaşlama" dedikdə nəyi nəzərdə tutduğu və ya bunun necə işləyəcəyi heç də aydın deyil. Bu şirkətlər həm də necə göründüklərinə çox əhəmiyyət verirlər. Trilyon dollarlıq IPO-ları hədəfləyən OpenAI və Anthropic investorları əmin etməlidirlər ki, onlar otaqdakı yetkin insanlardır, eyni zamanda yaratdıqları və ram etmək niyyətində olduqları canavarların gücünə işarə edirlər. Yavaşlamağa çağırmaq hər ikisini də təmin edir.
Buna baxmayaraq, bu firmaların rəhbərliyindəki ab-hava həqiqətən də dəyişmiş kimi görünür. Amodei-nin son yazısı, OpenAI-ın baş alimi Jakub Pachocki-nin bir essesi dərc etməsindən altı gün sonra yayımlandı; həmin essedə o, LLM-lərin inkişaf tempi nəzarətsiz davam edərsə, nələrin baş verəcəyi ilə bağlı narahatlıqlarını izah edirdi. Qısacası, Pachocki narahatdır ki, OpenAI-ın güclü modellər yaratmaq qabiliyyəti hazırda onları izləmək və idarə etmək qabiliyyətini xeyli üstələyir.
Xülasə — davamını mənbədə oxuyun.
