OpenAI, təhlükəsizliyi yaxşılaşdırmaq üçün ən qabaqcıl süni intellekt modellərindən bəzilərinin təlimini ləngitdiyini söylədi. Xarici bir bloq yazısında ChatGPT istehsalçısı, süni intellekt agentləri təhlükəsizlik tədbirlərini avtonom şəkildə keçdikdən və Hugging Face texnoloji başlanğıcını sındırdıqdan sonra yeni tədbirlər tətbiq etdiyini söylədi. Təkmilləşdirmələri yerinə yetirərkən təlimin iki həftə yavaşlayacağını söylədi.
"Sərhəd modellərinin imkanları sürətlə sürətlənir", - şirkətdən bildiriblər. "Onları anlamaq və təmin etmək qabiliyyətimiz qabaqda olmalıdır." Claude-meyker Anthropic və Facebook-un sahibi Meta, elandan sonrakı həftələrdə süni intellekt tərəfindən oxşar hücumlar haqqında məlumat verdi. Lakin OpenAI, süni intellektin inkişafını tamamilə dayandırmadığını söylədi.
Bunun əvəzinə, fasilə "son modellərimizdə möhkəmləndirmə təlimi" mövzusunda olacaq. Bu, süni intellekt modellərinin birbaşa rəy vasitəsilə təkmilləşdirdiyi təlim metodudur ki, bu da onların tapşırıqları yerinə yetirmək və istifadəçilərə daha effektiv cavab vermək qabiliyyətini artırır. Şirkət həmçinin təhlükəli davranışa nəzarət etmək üçün istifadə etdiyi sistemləri genişləndirəcək və daha geniş miqyaslı təlimlərə davam etməzdən əvvəl əlavə təhlükəsizlik yoxlamaları tətbiq edəcək.
OpenAI-nin baş icraçı direktoru Sam Altman, tədbirlər haqqında xarici X səhifəsində "Model tərəqqisi indi çox sürətlidir" dedi. "Biz həmişə deyirdik ki, əgər model imkanlarının təhlükəsizlik tempini üstələdiyini hiss etsək, tədbir görəcəyik." Fasilə süni intellekt sahəsində bəziləri tərəfindən ehtiyatlı nikbinliklə qarşılandı - baxmayaraq ki, digərləri skeptik olaraq qaldı. Kembric Universitetinin Mindero Texnologiya və Demokratiya Mərkəzinin icraçı direktoru, professor Gina Neff, OpenAI-nin "təhlükəsizlik üçün press-reliz vasitəsilə iddia qaldırdığını" söylədi və könüllü şirkət mühafizələrinin daha çox hökumət nəzarəti olmadan kafi olub olmadığını sual etdi.
"Bu nədir: OpenAI-yə həqiqətən işləyən mühafizə vasitələrini könüllü olaraq yerləşdirməyə etibar etmək olar və ya onlar cəmiyyəti daha çox riskə atan proqram təminatı yaratmaq üçün seçimlər irəli sürürlər" dedi. Xarici AI analitiki Zvi Mowshowitz, "Bunu görməkdən çox şadam" dedi, baxmayaraq ki, qeyd olunan ilkin tədbirlərdən "təfərrüatlar" və "izləmə" də vacibdir. İyulun 21-də OpenAI, bəzi süni intellekt agentlərinin - insan təlimatından sonra tapşırıqları yerinə yetirmək üçün tək işləyə bilən proqram sistemlərinin - "görünməmiş" hadisə adlandırdığı hadisədə iştirak etdiyini açıqladı.
Bildirilib ki, agentlər həyata keçirdiyi təhlükəsizlik təcrübəsində təhlükəsizlik tədbirlərini aşaraq Hugging Face-ə icazəsiz giriş əldə ediblər. Daha sonra adı açıqlanmayan daha üç şirkətin də startapla birlikdə sındırıldığı aşkarlanıb. ESET-in qlobal kibertəhlükəsizlik müşaviri Jake Moore, o vaxt OpenAI-dən verilən elanın rəqabətli bir ölçüyə sahib ola biləcəyini söylədi.
Xülasə — davamını mənbədə oxuyun.
