Demək olar ki, on ildir ki, süni intellektin hara doğru gedəcəyini və səhvə yol verə biləcəyini düşünmək mənim işimdir, əvvəlcə OpenAI, sonra DeepMind, sonra İngiltərədəki AI Təhlükəsizlik İnstitutunda (AISI) baş elm xadimi kimi. Bu təcrübə mənə aydın etdi ki, süni intellektin riskləri ilə bağlı bir şey etmək üçün bütün qeyri-müəyyənliklərimiz həll edilməsini gözləyə bilmərik.
Son xəbərdarlıqlar süni intellektin potensial dağıdıcı gücü ilə bağlı vəziyyətin ağırlığını azaldır. İnanıram ki, insanlardan daha ağıllı süni intellekt sistemlərinin inkişafı nəticəsində hamımızın ölmə ehtimalı 50%-dir və növbəti iki ilə 10 il ərzində bizim hərəkətlərimiz nəticəni müəyyən edəcək.
Açıq olsun ki, süper ağıllı süni intellekt tərəfindən öldürülmə ehtimalı 50%-dir deyəndə dəqiqlik iddia etmirəm. Bunun əvəzinə, mən vurğulayıram ki, süni intellektin gələcəyi və təhlükəsizliyi ilə bağlı ən əsas müzakirələrdən bir neçəsi həll olunmamışdır. İnanıram ki, bu anlaşmazlıqların həllini gözləmək olmaz, bu yol dəyişmək üçün çox gec olana qədər.
Təhlükəsizliyə baxmayaraq hərəkət etməliyik. Bu, bizi narahat edən müzakirələrə yönəlməyə meylli deyil.
Nəticədə, süni intellektin imkanları və motivasiyaları və öz insan hərəkətlərimiz, hamısı sağ qalma ehtimalıımıza təsir edir. Bu səbəbdən mən hesab edirəm ki, bizim şansımız bir sikkə atışına bənzəyir və məncə süni intellektin inkişafını dayandırmaq vaxtı indi olduğuna inanıram.
Bir anlıq süper ağıllı süni intellektin öldürdüyü hər kəsin diqqətini çəkək. Bunun üçün hansı bacarıqlar tələb olunur? Məncə, süni intellekt sistemi yalnız dörd növ bacarıqla bizi öldüre bilər.
Xülasə — davamını mənbədə oxuyun.
