Çox diqqət Anthropic-in bazar ertəsi yenidən nəzərdən keçirilmiş S-1A-da açıqladığı yenilənmiş maliyyələrə yönəlsə də (gəlişlər artır, xərclər də), süni intellekt laboratoriyası kiçik çapda daha bir kiçik bombaya atdı.
Məlumatda bildirilir ki, şirkət rekursiv özünü təkmilləşdirməyə (RSI) qadir olan bir model yaratmaq üzrədir.
RSI, süni intellektin özünü məşq etməkdə o qədər yaxşı inkişaf etdiyi nöqtədir ki, bu da süni intellektin qabiliyyətlərinin dramatik sürətləndirilməsinə səbəb olur. Sİ-nin məhv edilməsində olanlara görə, RSI, öz məqsədlərinə çatarkən də səbəb olduğu ziyanlara qarşı fərqi olmayan və insan nəzarətindən kənara çıxdığı qədər güclü bir şeyə çevrilən, geri qayıtmağın olmaması üçün bir fəlakət deməkdir.
Sİ-nin həvəskarları üçün RSI və ya Sİ-nin hansısa versiyası öz-özünü yaxşılaşdırmaq üçün etibarlı şəkildə istifadə edərək texnologiya vədini təmsil edir, burada təsəvvür edilə bilməyəcək məhsuldarlıq, elmi kəşf və daha çoxun vasitəsi olur.
Antropik RSI-nin həm vəd, həm də təhlükə olduğuna inanır. S-1-də AI-nin öz tədqiqat və inkişafında istifadə etdiyini söyləyir, lakin xəbərdarlıq edir: Daha bacarıqlı AI-nin qurulmasına kömək etmək üçün AI-nin istifadəsi xüsusilə inkişaf sürətini kəskin sürətləndirirsə, əhəmiyyətli bir təhlükəsizlik riski yarada bilər. Bu, məsuliyyətli miqyaslaşdırma siyasətimizin əhatə etdiyi sahələrdən biridir. Bu sahədə "təkrar özünü yaxşılaşdırma" adlandırılan tədbirlərə doğru gedərkən risklərin nəzarət edilməsi və azaltılması planlarımız müəyyən edilir.
RSI termini bu ilin əvvəlində məşhurlaşdıqda, bir çoxları bu sözün bir buzzword olduğunu və ya ən yaxşı halda, əldə etmək, müəyyənləşdirmək və ya sübut etmək üçün çox çətin bir hədəf olduğunu düşünürdülər.
Xülasə — davamını mənbədə oxuyun.
