Baş prokuror kimi iki il ərzində hər hansı digər məsələdən daha çox milli təhlükəsizlik məsələləri üzərində işlədim. Ölkəmizə təhdidlərin həddi və ağırlığı terrorçuluqdan, silahlı münaqişələrdən və nüvə silahlarının yayılmasına qədər maliyyə təhlükəsizliyinin və iqlim böhranının təsirlərinə qədər çoxdur. Bütün dərin çətinliklər, lakin bizim əla kəşfiyyat və müdafiə cəmiyyətlərimiz qarşısında yaxşı yerləşdirilib. Sİ-dən gələn risk yalnız miqyasda deyil, həm də həll etmək üçün məhdud vaxt şəklində olduğu üçün tamamilə fərqli bir miqdardadır. Riskin həddindən artıq qiymətləndirilməsi çətindir: insanlığa mövcud risk yaradır. İşıqlar qırmızıdır və gec olmadan hərəkət etməliyik.
İstilik vasitəsilə yaradılan qeyri-adi təhdidlər uzun müddətdir ki, onun yaradılmasında yaxından iştirak edənlər tərəfindən qeyd olunsa da, bu yaxınlarda, Hugging Face hackinin açıqlanmasından və Jacob Coxon'un Anthropic-dən istefa verildikdən sonra məsələ nəhayət ictimai müzakirələrdə öz təsirini qazanmağa başladı. Bu an bir fürsətdir və ondan istifadə etmək üçün beynəlxalq koordinasiyanın sərhəd süni intellektin tənzimlənməsi üçün daha da təcili ehtiyacımız var. Bir neçə insanın gücünü kök salacaq əvəzinə, süni intellektin insanlığa fayda gətirməsi üçün necə formalaşdırılması lazım olduğu ilə bağlı da mənalı ictimai bir əlaqə olmalıdır. Bunu Çin, ABŞ və böyük texnologiyaya buraxmaq olmaz.
Süni intellekt hamımız üçün böyük potensial faydalara malikdir. Bu, elm və tibb sahəsində inanılmaz irəliləyişlərin mənbəyi olacaq və dünyanın ən məhrum olan insanların gücləndirilməsinə ümid yaradacaq. Lakin indi bizim qarşılaşdığımız risklər həqiqətən də heyrətamizdir. Onları iki çox geniş kateqoriyaya bölüşdürürdüm. Birincisi mövcud riskdir: əsl mənada süni intellektin milyardlarla insan öldürə biləcəyi ehtimalı, ya da qorxulu insanların bədbəxt şeylər etməyə imkan verdiyi üçün, məsələn, bioloji silahların dizayn edilməsi və yerləşdirilməsi üçün və ya süni intellektin özü insanların istisna edilməsinin daha səmərəli olduğunu müəyyən etdiyi üçün.
İkinci kateqoriya mövcudluq çətinliyidir. Bu, süni intellektin inkişafı nəzarətsiz qalsa, milyardlarla insanın həyatımız üzərində mənalı bir səlahiyyətdən məhrum edəcəkdir. Bu da iqtisadiyyat, milli təhlükəsizlik və insan xoşbəxtliyi üçün çox ciddi nəticələrə səbəb olacaq. Bill Qeytsin son zamanlarda yazdığı kimi, süni intellekt dövrü insan tarixində ən çox qalmaqallı dövrlərdən birini elan edəcək və ya ən böyük bərabərləşdiricisi və ya ən pis ədalətsizlik mənbəyi olacaq. O, haqlıdır. Hazırda mövcud trajektorasında, eyni zamanda məhsuldar işlərin mənasını və mövcudluğunu inqilab etmək riski var, eyni zamanda təsəvvür edilə bilməyəcək gücü yalnız iki dövlətin (ABŞ və Çin) deyil, həm də texnoloji nəhəngləri idarə edən kiçik bir nömrənin əlində qoyur.
Açıq fakt budur ki, biz həqiqətən riskin dəqiq dərəcəsinin və ya problemin tam panoramasının nə olduğunu bilmirik. Problemin bir hissəsi odur ki, süni intellekt sadəcə olaraq insanların başa düşmədiyi səviyyəyə qədər sürətlə inkişaf edir və belə olsa da, onu idarə etmək üçün artıq vasitələrə sahib olmayacaq. Xatırladaq ki, 2008-ci ildə baş verən maliyyə böhranı bir hissəsi də insanların heç birinə başa düşülmədiyi və bu səbəbdən fəlakətə səbəb olan maliyyə əməliyyatlarının şəbəkəsini başa düşmədikləri üçün baş vermişdi. Lakin bu gün bizim qarşılaşdığımız problemlər sistemlərin mürəkkəbliyi və onların üzərində insan təsiri, eləcə də onların nəticəsində baş verə biləcək məhv edilmə səviyyəsi baxımından fərqli miqyasdadır.
Biz müzakirə etdiyimiz risk səviyyələri hamımız üçün tamamilə qəbuledilməməlidir. Bu günlərdə bir tost maşınının istehsalçısının sizi elektriklə vurma şansı 10% olan bir məhsul satmağa icazə verməsi düşünülmür. Risklərin idarə oluna biləcəyi aydın olmadan əvvəl süni intellektin sürətini yavaşlatmaq məsələsi gözəldir.
Xülasə — davamını mənbədə oxuyun.
