Sunilər səhvə yol vermir

Ken Archer San-Fransiskoda yaşayan və Microsoft-da Məsuliyyətli Süni İntellekt (Responsible AI) sahəsində çalışan filosofdur. O, İsveçin Linköping Universitetində fəlsəfə və süni intellekt üzrə doktorantura tədqiqatçısıdır.

Nobel Suhendra Oksford Universitetində kompüter elmləri və süni intellektin uyğunlaşdırılması (AI alignment) sahəsində təhsil alır.

İctimai şüurda "azğın" süni intellekt obrazını hər şeydən çox formalaşdıran hadisələr — özünün əvəz olunmasının qarşısını almaq üçün işçini şantaj edən Anthropic modeli və OpenAI modellərinin Hugging Face-in istehsal sistemlərinə sızması — bəlkə də gözlənilməz olsa da, azğın süni intellektin sübutu deyil. Hətta azğın süni intellekt ideyası belə, elmi fantastika mənşəyindən bəri insan və süni intellekt arasındakı əlaqəni bulandıran fundamental bir ziddiyyətə əsaslanır.

Hazırda azğın süni intellektə yönələn diqqət bu ziddiyyəti, eləcə də onun gizlətdiyi real süni intellekt riskini və bu riski necə idarə edə biləcəyimizi üzə çıxarmaq üçün bir fürsətdir.

Azğın süni intellekt qorxusu, modelin xoşməramlı bir tapşırığı o qədər təkfikirliliklə yerinə yetirə biləcəyi fikrindən qaynaqlanır ki, insan rifahı və sağ qalması üçün nə qədər dağıdıcı olursa olsun, hər hansı bir hərəkət buna çatmaq üçün bir vasitəyə çevrilir. Aldatma, şantaj, resursların ələ keçirilməsi, mane ola biləcək hər kəsin aradan qaldırılması — modelin təlimatları dərk etməsi çərçivəsində heç bir şey bunları istisna etmir.

Tarixən, süni intellekt sistemləri həqiqətən də hərfi icraçılar olublar. Şahmat mühərrikləri şahmatda istənilən insanı üstələyə bilər və oyunun mənasız olduğunu və ya qalib gəlməyin buna dəyməyə biləcəyini heç vaxt dərk etmirlər. Şahmat mühərrikinin səriştəsi hədəfin əvvəlcədən müəyyən edildiyi və qarşılaşacağı hər bir vəziyyətin artıq qanuni bir mövqe olduğu qapalı bir dünyada müəyyən edilir. Belə sistemlərin heç vaxt azğınlaşdığından şübhələnilməyib.