Aldanmayın—LLM-lər səbəb axtarmır

2016-cı ilin mart ayında Seulda bir günorta çağı mən, yaratmağına kömək etdiyim bir proqramın, insan rəqibinə bir hədiyyə kimi görünən şəkildə, Go taxtasının beşinci xəttinə bir daş qoyduğunu izlədim. Beş oyunluq matçın ikinci oyunundakı 37-ci gediş o qədər absurd görünürdü ki, bəzi şərhçilər bunun proqramlaşdırma xətası olduğunu düşündülər. Amma belə deyildi. AlphaGo oyunu qazandı və nəticədə bütün zamanların ən böyük peşəkar Go oyunçularından biri olan Lee Sedol üzərində 4-1 hesabı ilə zəfər çaldı. Lee sonradan dedi: “Mən AlphaGo-nun ehtimal hesablamalarına əsaslandığını və sadəcə bir maşın olduğunu düşünürdüm. Lakin bu gedişi görəndə fikrimi dəyişdim. Şübhəsiz ki, AlphaGo yaradıcıdır”.

Deep Blue 1997-ci ildə o dövrün dünya şahmat çempionu Garry Kasparovu məğlub edəndə, bunu hər oyunçu üçün altı-səkkiz gediş irəliyə baxaraq və insanlar tərəfindən sərt kodlaşdırılmış qaydalardan istifadə edərək saniyədə 200 milyon şahmat mövqeyini qiymətləndirməklə etdi. Go isə daha mürəkkəb bir oyundur. Bir daşın dəyəri, uzaq qrupların və ərazinin onlarla gediş ərzində necə formalaşmasından asılıdır. Mümkün nəticələrin hətta bir hissəsini hesablamaq superkompüter üçün milyardlarla il çəkərdi. Qalib gəlmək üçün AlphaGo bir baxışda kimin öndə olduğunu hiss etməli və hətta heç bir insanın ağlına gəlməyən gedişlər kəşf etməli idi.

Məhz buna görə də AlphaGo-nun Lee ilə matçı haqqında bir çox hesabat 37-ci gedişi saf maşın intuisiyasının parıltısı kimi təsvir edir. Lakin bu, bir yanlış anlaşılmadır. Əslində, bu yaradıcı seçimi edən AlphaGo-nun mühakimə yürütmə qabiliyyəti idi və bunlar bugünkü süni intellektin malik olmadığı qabiliyyətlərdir. Əgər gələcək süni intellekt sistemlərinin etibarlı nəticələr və elm, tibb kimi sahələrdə həqiqətən yeni anlayışlar ortaya qoymasını istəyiriksə, onları bu cür əsl mühakimə qabiliyyətləri ilə təchiz etməliyik.

AlphaGo iki sistemdən ibarətdir. Birincisi, onun siyasət şəbəkəsi, güclü bir insanın hansı gedişi edəcəyini təxmin etmək üçün öyrədilib. Bu “intuitiv” hissə 37-ci gedişi xüsusi bir şey hesab etmirdi – bu, ekspert bir insan oyunçu tərəfindən edilməsi təxminən 10 000-də bir ehtimal olan bir gediş idi. AlphaGo-nu bunu seçməyə vadar edən, proqramın dərhal görünən ehtimallardan kənara baxan və təklif olunan gedişlərin gələcək nəticələrini ölçüb-biçən axtarış mexanizmi idi. O, açıq şəkildə hər biri fərqli bir mümkün gələcəyi təmsil edən minlərlə budağı olan bir oyun ağacı qurdu və axtardı.

Daniel Kahneman tərəfindən populyarlaşdırılan davranış elmlərindəki məşhur bir nəzəriyyə, insan düşüncəsinin iki rejimini fərqləndirir: Sistem 1 sürətli, instinktiv, səysizdir; sistem 2 isə yavaş, addım-addım və düşünülmüşdür. AlphaGo bu bölgünün təsirli bir maşın analoqunu təqdim etdi. Onun şəbəkələri ehtimalları təmin edirdi – bu gediş perspektivli görünür, bu mövqe udulmuş görünür – və onun axtarış mexanizmi isə bu ehtimalları ardınca gələcək gedişlər və əks-gedişlərlə sınaqdan keçirərək müzakirəni təmin edirdi. İnsan idrakında olduğu kimi, heç bir yarısı təkbaşına işləmir. Yalnız intuisiya heç vaxt 37-ci gedişi seçməzdi və kobud güc axtarışı (brute-force search) bütün mümkün gedişləri ələkdən keçirməkdə çətinlik çəkərdi.

Bu, bugünkü süni intellekt modellərinin işləmə tərzindən kəskin şəkildə fərqlənir. Böyük dil modeli təkrar-təkrar növbəti tokeni seçir. Bu, fəaliyyətdə olan sistem 1 deməkdir – insanların yazdığı demək olar ki, hər mövzuda sürətli, assosiativ və təəccüblü dərəcədə yaxşı naxış tamamlama.