Əsas olan bir baxışa görə, neyrologiya tarixi olaraq süni intellektə ilham versə də, əsas modellərin miqyaslılığı ilə idarə olunan süni intellektin son inkişafında onun rolu kiçikdir. Biz bu perspektivə çətinlik çəkirik, sadələşdirilmiş dendritik nevron modelləri və süni intellektin əsas modellərinin mərkəzi diqqət mexanizmləri arasında bioloji analoji qururuq. Biz sübut edirik ki, süni intellektin diqqət mexanizmləri sadə nöqteyi nevronların sadəcə nöronlararası əlaqələrindən daha çox dendritik təşkilatdan irəli gələn daxili nöron kompleksliklərinə birbaşa xəritə qoyur. Bu yenidən konseptuallaşdırma yalnız özündə bir riyazi əməliyyat kimi formulyasiyasından kənarda əsas AI metodologiyasını anlamaq üçün neyrologiya məlumatlı bir perspektiv təklif etmir, həm də miqyaslı qanunlardan kənarda davamlı inkişaf etmək üçün neyrologiya anlayışlarından istifadə edən neyroloji ilhamlı əsas modellər üçün yol açır. Bu paradigmanın bir nümunəsi olaraq, biz dendritikdən ilhamlanan mürəkkəblik çərçivəsini təqdim edirik və dendritikdən ilhamlanan nadir hesablama ilə hibrid diqqət əsas modelini hazırlayırıq, bu da hesablama tələblərini azaltarkən yaddaş qabiliyyətini artırır. Bizim modelimiz 50M kontekst pəncərəsinə dəstək verir. Shakespeare-in 40 cildinə bərabər olan, üstün uzunmüddətli yaddaş qabiliyyətlərini göstərir. Bu iş müasir süni intellektdə davamlı irəliləyişləri idarə etmək üçün sinirlər arası dinamikadan istifadə edən bir paradigmanın qabaqcılçısıdır, eyni zamanda dendritik hesablama mexanizmlərini anlamaq üçün potensial bir yol təklif edir.
Biz prof. Giacomo Indiveri dərinliklə müzakirələr üçün.
Bu iş qismən Çin Milli Təbii Elmlər Fondunun (62236009, U22A20103, U2541222, 62406322), Milli Əməkdar Gənc Alimlərin (62325603), Əsas Tədqiqatda Gənc Alimlər üçün CAS Layihəsi (YSBR-116), Beyin Elmləri və Beyin bənzər İstiqlal Texnologiyası - Milli Elm və Texnologiya Böyük Layihəsi (2025ZD0215500), Pekin Elm və Texnologiya Planı (Z241100004224011), Beyin-İstiqlal İnteqrasiyası Gənc Elm adamları Layihəsi (BI202507) və CAAI-Tencent Rin-Qoyun Açıq Tədqiqat Fondundan də dəstəklənib.
Bu müəlliflər bərabər olaraq töhfə verirdilər: Man Yao, Yuqi Pan, Yiran Zhong, Shijie Mei, Zhen Qin, Kexin Wang.
Avtomatikasiya İnstitutu, Çin Elmlər Akademiyası, Pekin, Çin
Man Yao, Yuqi Pan, Shijie Mei, Kexin Wang, Jiakui Hu, Siyu Ding, Tianxiang Hu, Yanbin Huang, Siyuan Xu, Yuhong Chou, Ning Qiao, Bo Xu və Guoqi Li
Xülasə — davamını mənbədə oxuyun.