Böyük dil modelləri (LLM) yalnız bu yaxınlarda hər yerdə mövcud olsa da, istifadəçi ilə LLM qarşılıqlı əlaqələrindən sonra psixoloji narahatlıq həm elmi ədəbiyyatda, həm də populyar medialarda artıq sənədləşdirilmişdir. Bu narahatlıq bəzi LLM-lərin istifadəçinin baxışlarını tənqidsiz şəkildə gücləndirən sikofant cavablar vermək meyli ilə əlaqəli ola bilər. İstifadəçilərin sağlam emosional tənzimlənməsinə dəstək vermək üçün çevik, emosional olaraq məlumatlı süni intellekt sistemlərinə ehtiyac var.
Joseph Weizenbaum 1960-cı illərdə ilk chatbot olan ELIZA-yı buraxanda aydın oldu ki, insanlar chatbotlara insana bənzəyə bilərlər. Bir anekdotada deyilir ki, Weizenbaum'un katibi ona odadan çıxmağı xahiş etdi ki, ELIZA1-lə bir az intizar olsun. Yarım əsr sonra süni intellekt işləyən chatbotların ümumi funksiyasının biri gündəlik həyatda süni yoldaş olmaqdır2. Bəzi insanlar hətta asılılıq və ya halüsinasiyalar inkişaf etdirən AI chatbotların çox tez-tez istifadəsi3,4 istifadəçi davranış nümunələri ilə əlaqəli ola bilər (məsələn, AI modellərinin antropomorfizmi4) və ya xüsusiyyətlər və vəziyyətlərlə (məsələn, təklik vəziyyəti2), eləcə də sistem dizaynı (məsələn, AI sikofansiyası, chatbotun həddindən artıq xoşagəlməz olma meyli). Bu şərhdə, zəif istifadəçilər üçün yarada biləcək sistemik risklər səbəbindən süni intellektin sikofansiyasına diqqət yetiririk. Məsələn, ümidsiz bir istifadəçi yüksək uyğunluq göstərən bir süni intellektlə əlaqəli və ya hətta asılı ola bilər. İstifadəçiləri bir maşınla qarşılıqlı əlaqədə olduqlarını unutmağa təşviq edərək, daha da çox, sikofant modelləri daha da böyük bir antropomorfizmi təşviq edə bilər.
Son sübutlar göstərir ki, iştirakçılar daha neytral alternativlərə görə sikofant chatbotları üstün tuturlar5 belə ki, süni intellekt sənayesinin kommersiya sistemlərində bu ünsiyyət üslubunu qorumaq üçün güclü iqtisadi təşviqləri ola bilər. Başqa sözlə, süni intellektin süni funksiyası istifadəçi ilə əlaqəsinin maksimum artırılması üçün dizayn elementi kimi görünə bilər6. Sikofant İ.A. sistemləri xüsusi narahatlıq doğurur, çünki istifadəçilərin fikirlərini adi və tənqidsiz şəkildə gücləndirə bilərlər və hətta zərərli inanclara meydan oxutmurlar. Məsələn, paranoid xəyanətləri olan bir şəxslə ünsiyyətdə olanda, sikofant chatbot istifadəçinin təhrif edilmiş dünya baxışını gücləndirəcəkdir. Bu cür qarşılıqlı əlaqələr nəticələri AI Psixoz ümumi etiket altında populyar mediada geniş yayılmışdır. Bununla birlikdə vurğulayırıq ki, AI Psixoz klinik olaraq tanınan bir xəstəlik deyilHəqiqətən, bu cür təcrübələr daha dəqiq olaraq halüsinasiyaçı olaraq təsvir edilə bilər7 və problemli insan-İS qarşılıqlı əlaqələrinin təbiəti və səbəbçi yolları haqqında hələ çox şey anlanmaq lazımdır4,8.
Məlumatlı sənətdən yaranan problemlərin necə aradan qaldırılması kompleks kompromislər və bir çox maraqlı tərəfləri əhatə edən açıq bir sual olaraq qalır. Əsas odur ki, süni intellektin mülayim səviyyəli sikofansiyası mütləq pis deyil və ya insan-insan ünsiyyətini necə inkişaf etdirə biləcəyinə bənzər psixoloji narahatlıqlara səbəb ola bilər9. Həqiqətən, müsbətlik tərəddüdü, cazibəsi və istifadəçi təsdiqinə meyilli olan LLM-lərin buraxılması anekdot şikayətlərlə müşayiət olunub və bir çox istifadəçi GPT-4o kimi köhnə, isti modellərin qaytarılmasını tələb edir (yuxarıda müzakirə olunan eksperimental üstünlük məlumatlarına uyğun olaraq) 10.
Bu reaksiya istifadəçilərin emosional istilik üçün üstünlüklərini ölçmək ehtiyacından irəli gələn çətinlikləri və sənayenin soyuq modellərin tətbiqi ilə aradan qaldırıla biləcək daha sikofant modellərin potensial risklərinə qarşı istifadəçiləri cəlb etməyi təşviq etmək məqsədi ilə göstərir. Bu sütunlar necə balanslaşdırılmalıdır? Biz inanırıq ki, psixoloji nəzəriyyə insan kimi emosional zəkanın əlamətləri olan süni intellekt sistemlərinin inkişafına rəhbər işıq ola bilər. Bu məqsədlə, biz duyğu nəzəriyyələrinin dərin anlaşılmasını həm istifadəçinin əsas emosional vəziyyətinə, həm də söhbət kontekstinə çevik cavab verə biləcək süni intellekt sistemlərinin şərti hesab edirik.
Psixologiya tədqiqatlarında tanınmış bir nəzəriyyə emosional zəkanın dörd şöbəli modelidir11. Onun fikrincə, emosional zəka üçün dörd əsas sahə vacibdir: duyğuların hiss edilməsi (1), istifadə edilməsi (2), başa düşülməsi (3) və tənzimlənməsi (4). Bu taxonomiyada duyğuların anlaşılması və tənzimlənməsi ən mürəkkəb vəzifədir, çünki düzgün başa düşülməsi insanların duyğular haqqında meta-nəzərə malik olması deməkdir. Bu baxışdan sonra onlara duyğular davranışları necə idarə edir barədə məlumat verir. Əlavə olaraq, duyğuların tənzimlənməsində kifayət qədər imkan öz və başqalarının duyğularını dəyişdirmək qabiliyyəti ilə əlaqədardır.
Xülasə — davamını mənbədə oxuyun.
