Süni intellekt modellərini digər AI modelləri ilə öyrətmək neolablar üçün çox populyar bir məqsədə çevrildi - və indi Anthropic-in yoldaşlar proqramında bir tədqiqatçı bizə bunun praktikada necə görünə biləcəyini erkən nəzərdən keçirdi. Cümə günü Anthropic, "Avtomatlaşdırılmış Tədqiqatçılar Hizalanma Uğursuzluqlarını Etibarlı Bir şəkildə Azalta bilər" adlı yeni bir məqalə dərc etdi, AI sistemlərinin bir sıra uyğunlaşma meyarları üzərində modelin performansını necə etibarlı şəkildə yaxşılaşdıra biləcəyini izah edir. Xüsusi yanlış uyğunlaşdırılmış davranışlar üçün 10 meyar verildikdə, avtomatlaşdırılmış sistemlər ümumi performansı aşağı salmadan hər birində performansı yaxşılaşdıra bildi.
Antropik Fellow Chen Yueh-Han tərəfindən idarə olunan sistem tədqiqata ənənəvi yanaşmanın çoxunu təkrarlayır. Hər bir avtomatlaşdırılmış sistem mövcud ədəbiyyatı axtarır, metod təklif edir və 30 dəqiqə ərzində həmin metoddan istifadə edərək modeli məşq edir, bir neçə iterasiya üzrə etalon göstəricini tədricən artırır. Effektiv üsullar qorunur, səmərəsiz olanlar isə atılır, bu da sistemin tez və geniş miqyasda işləməsinə imkan verir.
Kağız rekursiv özünü təkmilləşdirməyə doğru bir addımdır, çoxları bunu AI tərəqqisində növbəti mühüm addım kimi görür. Modellər öz uyğunlaşdırma təlimlərini təkmilləşdirə bilsələr, onların təlim təcrübələrini daha geniş şəkildə təkmilləşdirə biləcəyi inandırıcıdır - bu zaman insan süni intellekt tədqiqatçıları tezliklə köhnələ bilər. Qəzet bu fikrə müraciət etməkdən çəkinmir, Avtomatlaşdırılmış Alignment Tədqiqatçısını (AAR) insan ekvivalenti ilə açıq şəkildə müqayisə edir.
Avtomatlaşdırılmış sistem yalnız meyarlar həqiqi uyğunlaşdırma məqsədlərini əks etdirdiyi dərəcədə işləyir və hətta o zaman da bu meyarların yaradılması və saxlanmasında görüləcək əhəmiyyətli işlər var - avtomatlaşdırılmış tədqiqatçıların cəlb etdiyi ədəbiyyatın saxlanması və genişləndirilməsini qeyd etməmək.
Xülasə — davamını mənbədə oxuyun.
