Beynəlxalq Riyaziyyatçılar Konqresi keçən ay Filadelfiyada toplandı, 1986-cı ildən bəri ilk ABŞ toplantısı. Riyaziyyatın ən yüksək mükafatı olan Fields Medalını qəbul etdikdən bir neçə dəqiqə sonra Jacob Tsimerman jurnalistlərə deyib ki, o, süni intellekt təhlükəsizliyi üzərində işləmək üçün akademiyanı tərk edir. İki ay əvvəl o, süni intellekt modelinin Erdős vahid məsafə fərziyyəsi kimi tanınan müasir həndəsənin 80 illik mərkəzi sütununu həqiqətən təkzib edib-etmədiyini araşdırmağı xahiş edən doqquz riyaziyyatçıdan biri idi.
Tsimerman və onun həmyaşıdları bunun olduğunu müəyyən etdilər və 18 səhifəlik sübutla yanaşı onların şərhləri maşının arqumentini insanın başa düşə biləcəyi riyaziyyata çevirməyə kömək etdi. Sıçrayış və sonrakı hesabat, bizi riyaziyyatda və getdikcə hər bir sahədə yeni kəşflər etməkdən çəkindirən darboğazın necə dəyişdiyini əks etdirir. Tarixin çox hissəsi üçün qıt resurs kəşf idi.
Süni intellektlə kəşf fasiləsizdir və insanların təsdiqi indi az olan şeydir. Aydın olmaq üçün biz AI optimistləriyik. İnanırıq ki, süni intellekt alətləri insan ixtirasını tamamlayacaq və bildiyimiz və qura bildiklərimizi genişləndirəcək, lakin kəşfləri yoxlamaq və təsdiqləmək üçün infrastrukturumuz insan ötürmə qabiliyyəti üçün qurulub və bu, indi məcburi məhdudiyyətdir.
Yeniliyi geridə saxlayan da budur. Bu problemin cavabı rəsmiləşdirmədir: AI-nin nəticələrini düzgünlüyü avtomatik olaraq yoxlanıla bilən dəqiq formalara çevirmək. Yoxlama rutini etmək üçün infrastrukturun qurulması indi milli miqyaslı mühəndislik problemidir.
Maşınlar riyaziyyatdan daha çox bizi qabaqlayır. Eyni şey xəstəxanaları, bankları və elektrik şəbəkələrini idarə edən kodla da baş verir. Məsələn, aprel ayında Anthropic, Mythos modelinin əsas əməliyyat sistemlərində və brauzerlərdə naməlum boşluqlar tapa biləcəyini və onları yamaq üçün yarışan əlli təşkilata girişi məhdudlaşdırdığını açıqladı.
Tezliklə Microsoft mühəndisləri geniş istifadə olunan məhsulda 90 kritik qüsur tapdılar; iyun ayında isə senator Mark Uorner Senatdakı dinləmələrdə NSA direktoruna istinadla demişdi ki, alət “demək olar ki, bütün məxfi sistemlərimizə həftələr ərzində deyil, saatlar ərzində daxil olub”. Bütün bunlar düzgün olduğunu güman etdiyimiz kodla işləyən bir dünyaya çatır. 2024-cü ilin iyul ayında kibertəhlükəsizlik hücumu deyil, bircə səhv proqram yeniləməsi bütün dünyada uçuşları dayandırdı və xəstəxanaların fəaliyyətini dayandırdı.
Xülasə — davamını mənbədə oxuyun.
