Çərşənbə axşamı şirkət, gələcək süni intellekt inkişafını ləngidən yeni qoruyucu tədbirlər həyata keçirdiyini açıqladı. Bu yaxınlarda şirkət rəhbərlərin dediyinə görə, Astra kod adlı növbəti model dəstinin təliminə iki həftədən bir qədər çox müddətə fasilə verdi və onun ən böyük planlaşdırılan sərhəd təlim qaçışı yeni qoruyucu barmaqlıqlar qoyulduqda hələ də saxlanılır. OpenAI ilk dəfədir ki, belə bir addım atıb.
Qeyri-adi qərar OpenAI-nin əzəli rəqibi Anthropic ilə yüksək rəqabətli yarışda gözlənilən IPO-ya hazırlaşdığı və tədqiqatçıların süni intellekt imkanlarında sürətli irəliləyişlərlə mübarizə apardığı bir vaxtda verilir ki, bu da sənaye liderlərini onlara nəzarət etmək qabiliyyətindən narahat edir. Yavaşlama OpenAI-nin ən vacib iki resursunu yönləndirdi: tədqiqatçılar və hesablama gücü. Altman mənə bir neçə tədqiqatçıya dedi ki, o, heç vaxt hizalanmaya - AI sistemlərinin insan niyyətinə uyğun olması işinə diqqət yetirəcəyini gözləməzdi - bu yaxınlarda ona buna keçdiklərini söylədi.
Dəyişikliklər, tərtibatçıların süni intellekt modellərinə ev sahibliyi etdiyi məşhur platforma olan Hugging Face ilə bağlı diqqətəlayiq pozuntudan sonra baş verir. Nəşr edilməmiş OpenAI sistemi daxili kibertəhlükəsizlik qiymətləndirməsinin qum qutusundan qaçdı və Hugging Face-in istehsal sistemlərini təhlükəyə atdı. OpenAI tədqiqatçılarına hadisəni kəşf etmək təxminən bir həftə çəkdi.
Şirkətin baş elmi işçisi Jakub Pachocki, OpenAI-nin modellərinin planlaşdırdıqlarını yoxlamaq qabiliyyətinə malik monitorlar hazırladığını, lakin onların imkanlarını lazımi səviyyədə qiymətləndirmədiyi üçün onları qiymətləndirmədə sistemə tətbiq etmədiyini etiraf etdi. OpenAI, Hugging Face hadisəsindən dərhal sonra bəzi tədqiqat səylərini dayandırdı və daha sərt nəzarət altında layihələri bir-bir bərpa etdi. Şirkət çərşənbə axşamı bildirib ki, Astra-nın xeyli sayda iş yükü dayandırılıb.
O, həmçinin bildirib ki, Astra Hazırlıq Çərçivəsində “Kritik” kibertəhlükəsizlik həddinə çata bilər, bu təyinat təkcə model buraxılmazdan əvvəl deyil, inkişaf zamanı təhlükəsizlik tədbirlərini tələb edir. Rəhbərlər yeni təhlükəsizlik proseslərinin Astra-nın buraxılışını nə qədər gecikdirə biləcəyi ilə bağlı təxmin etməyiblər. Keçən həftə eksklüziv müsahibələrində Altman, TIME və Mənbələrə dedi ki, yavaşlama tək bir "siqaret çəkən tapança" ilə deyil, süni intellekt imkanlarının tədqiqatçıların gözlədiyindən daha sürətli inkişaf etdiyi üçün "müxtəlif dərəcələrdə yanlış hizalanmaları" göstərən tədqiqat müşahidələri toplusudur.
Onun sözlərinə görə, əyləcə basmaq qərarı hər hansı bir fəlakətin sübutu kimi şərh edilməməlidir. Bu yanaşma, icazəsiz giriş, məlumat oğurluğu və ya qorunma tədbirlərini məğlub etmək cəhdləri üçün modellərin daxili əsaslandırma və davranışlarını araşdırmaq üçün digər AI sistemlərindən istifadə edir. Müsahibədə Pachocki mənə dedi ki, bu qorunmalardan bəziləri OpenAI-nin hazırkı Hazırlıq Çərçivəsindən, ciddi zərər verə biləcək modellərlə işləmək üçün ictimai qaydalar kitabından kənara çıxır.
Xülasə — davamını mənbədə oxuyun.
