AI-nin rekursiv özünü təkmilləşdirməsi hər şeydən sonra o qədər də tez gəlməyə bilər

Süni intellekt sənayesinin hazırda ən cəsarətli vədi ondan ibarətdir ki, AI tezliklə özünü təkmilləşdirəcək, insan nəzarətinə demək olar ki, ehtiyac yoxdur. LLM-lər artıq kod yaza, təlim üçün sintetik məlumatlar yarada və işlədikləri kompüter çiplərini optimallaşdıra bilər. Partlayıcı süni intellekt inkişafı ilə bağlı proqnozlar tədqiqatçıların rekursiv özünü təkmilləşdirmə adlandırdıqları şeyin üfüqdə olduğunu proqnozlaşdırır.

Ancaq yeni bir araşdırma göstərir ki, oraya çatmağımız bir müddət çəkə bilər. Bunun arxasında duran tədqiqatçılar tapdılar ki, AI agentləri hələ açıq AI tədqiqatı apara bilmirlər - aydın cavabları olmayan və mühakimə və zövq tələb edən sərbəst formada araşdırmalar, özünü təkmilləşdirən AI yaratmaq üçün ayrılmaz ola bilər. Prinston Universitetində Peter Kirgis və Sayash Kapurun rəhbərlik etdiyi çox institutlu tədqiqatçılar qrupu süni intellekt agentlərinin süni intellekt üzrə tədqiqat aparmaq üçün lazım olan mühəndislik problemlərini həll edə bildiklərini, lakin yüksək səviyyəli maşın öyrənməsi konfransı tərəfindən qəbul edilən məqalələrin çapına uyğun orijinal tədqiqatlar hazırlamaq üçün mühakimə və yaradıcılıq qabiliyyətinin olmadığını aşkar etdilər.

Boşluq onu göstərir ki, süni intellekt tədqiqatlarının avtomatlaşdırılması üçün bəzi yüksək səviyyəli vaxt qrafikləri sübutlardan əvvəl işləyə bilər. Agentlərin süni intellekt tədqiqatını necə avtomatlaşdıra biləcəyinə dair mövcud tədqiqatların əksəriyyəti onların mühəndislik problemlərinin həlli və ya məşqdən sonrakı kiçik dil modelləri kimi yoxlanıla bilən cavablarla dar tapşırıqları yerinə yetirmək qabiliyyətini qiymətləndirir. Lakin süni intellekt tədqiqatında irəliləyiş əldə etmək həm də açıq düşüncə tələb edir - bir sıra fərziyyələr seçmək, hansı sübutların sualı həll edəcəyinə qərar vermək və ya nə vaxt yenidən başlamaq lazım olduğunu bilmək.

Tədqiqatda iştirak edən tədqiqatçılar agentləri bu cür bacarıqlar üzərində sınamaq üçün “kölgə qiymətləndirməsi” adlı yeni qiymətləndirmə metodu təklif etdilər ki, bu da süni intellektdən yüksək keyfiyyətli dərc olunmamış məqalənin tədqiqat sualına cavab verməsini tələb edir. Tədqiqatçılar Anthropic-in OpenClaw adlı açıq mənbəli proqram təminatı ilə işləyən Claude Opus 4.8-dən bu cür sualları həll etmək üçün NeurIPS 2026 prestijli maşın öyrənmə konfransına təqdim edilmiş iki məqalədən soruşdular. Birinci sual böyük bir dil modelinin davranışını müəyyən edən “şəxsləri”nin (milyarların sayına görə hər şeyi idarə edə biləcəyini) idi. təlim zamanı öyrənir).

Digəri elektron cədvəl məlumatlarına əsaslanaraq proqnozlar verən modelin etibarsız hala gəldiyini göstərən detektorun necə dizayn ediləcəyini soruşdu. Sənədlər ictimaiyyətə açıqlanmadığından agentlər təlim məlumatlarından cavabları əzbərləyə və ya onlayn tapa bilmədilər. Agentlərə altı gün, 3000 dollar Anthropic API krediti, eksperimentləri yerinə yetirmək üçün GPU büdcəsi, öz virtual kompüterləri və yüksək səviyyəli AI konfransında dərc olunmağa layiq tədqiqat məqaləsi hazırlamaq üçün açıq internetə çıxış verildi.

Məqalələrin orijinal müəllifləri agentlərin sənədlərini bir konfransa təqdim olunanı qiymətləndirəcəkləri üçün qiymətləndirdilər. Agentlər tədqiqat aparmaq üçün tələb olunan bütün mühəndislik qabiliyyətinə malik idilər, insan alimləri tapdılar. Agentlər ədəbiyyatı nəzərdən keçirdilər, yüzlərlə təcrübə apardılar və nəticələri tərtib etdilər.