Bu, süni intellektin yaydığı bir neçə aylıq məşğuliyyətdir. Aprelin sonunda Anthropic, onun modeli Claude Mythos'un proqram zəifliklərini tapmaqda əksər təhlükəsizlik mütəxəssislərindən daha yaxşı olduğunu iddia etdi. Sonra OpenAIHugging Face hack hadisəsi oldu, bundan sonra Anthropic (qürurla) və Meta (təəssüflə) öz modellərini əhatə edən oxşar hadisələri açıqladı. Bu, Anthropic-in bir modelinin riyazi irəliləyişə nail olduğunu iddia etməsindən sonra oldu; tezliklə OpenAI özünün riyazi irəliləyişini iddia etdi. Son zamanlar Anthropic mühəndisi Jacob Coxon şirkətdən ayrıldığını elan edərək, onun və OpenAI-nin öz-özünü təkmilləşdirən super zəkanın və həyatımızla qumar oynamağın istiqamətində birbaşa yarışdığını iddia etdi.
Bu hadisələrdən hər biri mətbuat tərəfindən əksər hallarda nəfəssiz şəkildə əhatə edilmişdi. Tez-tez şirkətlərin antropomorfizə olunmuş çərçivələrini təkrarlayırdılarOnların proqram təminatının yalnız güclü deyil, həm də yeni başlayan süni ümumi zəka olduğunu təsvir etmək üçün nəzərdə tutulmuşdur. Bəs həqiqətən nə baş verir? Biz böyük, sivilizasiyanı dəyişən texnoloji irəliləyişlərin şahidiyik, yoxsa bu marketinqdir?
Bütün bu hadisələrdə şirkətlərin böyük fanfaresi (qanunsuz hakerlik işlərində mea culpas kimi təqdim edilən) intensiv mətbuat məlumatı ilə müşayiət olunur. Mümkün sahələrdəki mütəxəssislərin baş verənləri araşdırmağa vaxtları olduqda, fərqli bir hekayə ortaya çıxır, lakin daha az medianın diqqətini çəkir.
hacking hadisələri ilə əlaqədar olaraq, kiber təhlükəsizlik mütəxəssisləri xəbərin hacking modelləri və AI agentləri tərəfindən sivilizasiyalar yaratmaqdan daha çox OpenAI in səhləncəsi və əsas, təsdiqlənmiş təhlükəsizlik təcrübələrini qəbul etməməsi haqqında olduğunu söyləyirlər.
Riyaziyyat nəticələrinə gəlincə, ilk olaraq OpenAI-nin mətbuat açıqlamasına təəccüblənən riyaziyyatçılar, son chatbotunun, Astra-nın, ən azı on ildir açıq olan və əsas nəticədə heç bir irəliləyiş görməyən problemləri həll etdiyini söylədilər. Lakin sonradan başa düşdülər ki, nəticələr ilk dəfə görünən qədər yeni deyil. İki gün əvvəl Nyu-York Universitetinin Courant İnstitutunun riyaziyyat professoru Tristan Buckmaster OpenAI-nin başqa insanların işlərini oğurladığını və düzgün olmayan bir şəkildə onlara aid olduğunu göstərən bir bomba bəyanatı dərc etdi.
Başlanğıc, təhlükəli super zəkanın iddiaları yaxşı elmi və ya mühəndislik təcrübəsinə əsaslanmır. Əksinə, transhumanizm, eugenika və gələcək rəqəmsal insanlar haqqında arzular haqqında ideologiyalara əsaslanan hekayələrdir.
Xülasə — davamını mənbədə oxuyun.
