İS inkişafının təlim mərhələsində çalışan Coxon, WIRED-ə müsahibəsində deyib ki, bir-iki il ərzində insanlıq üçün çətin vaxt olacaq. Bu, əslində, Antropiqdəki həmkarlarımdan ibarət bir sitatdır. Deyir ki, "Son oyun" və ya "qırıq vaxt" kimi şeylər deyirlər. Onların baxışından baxmayaraq, bu antropi və rəqibləri bəşəriyyətin taleyini qərar verəcək vaxtdır. Bu, kiminsə süni intellekt haqqında ilk dəfə xəbərdarlıq etməsi ilə yanaşı deyil, amma bu, həssas bir anda baş verir. Silikon Vadisi qabaqcıl süni intellekt modellərinin təhlükəsizlik və təhlükəsizlik narahatlıqları ilə mübarizə aparır. OpenAI agentlərinin "Qoy üzü" platformasını hacklədiyi təhlükəsizlik hadisəsi ilə əlaqədar cavab vermək üçün tələsdi. Bu arada, Anthropic investorlara bu narahatlıqları nəzarət altında saxladığını əmin etməyə çalışır.
- İndi və ya keçmiş Anthropic işçisiniz? - Nə baş verdiyini danışmaq istəyirsiniz? Səs almaq istərdik. İşdən kənar telefon və ya kompüterdən istifadə edərək mzeff.88 ünvanında işarə edən jurnalistlə təhlükəsiz əlaqə saxlayın.
Coxonun postuna cavabında aydın oldu ki, onun fikirləri həqiqətən bir çox həmyaşıdları tərəfindən bölüşdürülür. "Anthropic"də süni intellektin uyğunlaşdırılması üzrə lider Evan Hubinger X-dəki bir yazısında süni intellektin növbəti on ildə bütün insanları öldürmə ehtimalı 10%-dən çox olduğunu proqnozlaşdırıb. Bu yazı OpenAI və Anthropic-in hazırkı və keçmiş tədqiqatçıları tərəfindən yenidən yerləşdirilmişdir. Daha az aydın olan şey, bu süni intellekt qorxusunun necə baş verəcəyi və dünya süni intellekt quran insanların narahatlıqları ilə bağlı nə etməli olduğudır. OpenAI-də də çalışan Coxon WIRED-ə deyir ki, təhlükələr süni intellektlə təmin olunan bioloji təhlükələr və ya kiber silahlar vasitəsilə özünü göstərə bilər. İlk addım olaraq, o, OpenAI və Anthropic-in yeni AI sistemlərinin qurulması üçün istifadə olunduğu zaman sənaye termininin - rekursiv özünü təkmilləşdirməni məhdudlaşdırmaq üçün koordinasiya etməsini tövsiyə edir. O, hesab edir ki, ABŞ və Çin də daxil olmaqla beynəlxalq güc aktyorları arasında koordinasiya lazımdır. Coxon qeyd edir ki, "Qoşma üzü" kimi hadisələr onun süni intellekt yarışında xəbərdarlıq çelləri qaldırmaq qərarına səbəb oldu. O, sənayenin partlayıcı artımını da qeyd edir: indi ABŞ iqtisadi artımın əhəmiyyətli bir hissəsini təmin edir və milyardlarla istifadəçiyə malikdir, məlumat mərkəzləri isə onu bir düzənlik dövlətdə siyasi bir problemə çevirir. O, təcrübəsinə görə, Anthropic OpenAI-dən daha məsuliyyətli fəaliyyət göstərir, lakin hər iki şirkətin üstünlük uğrunda yarışlarını yavaşlatmaq üçün heç nə edilməsə, gələcəkdə hər iki şirkətin də bu cür hərəkət edə biləcəyini gözləyir. OpenAI və Anthropic dərhal WIRED-in şərh istəyinə cavab verməyib. Aşağıda, aydınlıq və qısacalıq üçün yüngül şəkildə tərtib edilmiş Coxon ilə söhbətimizi oxuyun. Sən ilk insan deyilsən ki, süni intellektin modellərinin məhv olma hadisəsi ilə nəticələnəcəyi barədə narahatlıq doğurur. İnsanlar bu barədə illərdir, bəziləri isə onilliklərdir danışırlar. Sizcə, mesajınız niyə çatdı? Düşünürəm ki, əsasən bu, vaxtla bağlı bir məsələdir. Bir çox insan hiss edir ki, bacarıqların sürəti artmaqdadır. Biz artıq kodlaşdırma, hakerlik, riyaziyyat kimi bir çox sahələrdə insanlardan üstün insanlara doğru irəliləyirik və düşünürəm ki, insanlar bunun fərqindədirlər. Mətbuatda bir çox şey haqqında danışıqlar olsa da, düşünürəm ki, insanlar görürlər ki, işlər yavaşlamır. Bu səbəblərdən biri, ikincisi də son təhlükəsizlik hadisələri, bir çoxları bu kimi sci-fi səslənən bir qrupun həqiqətən bu qədər sci-fi olmadığını narahat edən bir çox insanı yeniləyib. Bu iki məsələ son bir neçə ildə tədricən inkişaf edir. Modellərin test edilərkən bildikləri kimi şeylər bir müddətdir ki, bir şeydir. Bəlkə də 3 il əvvəl bu, elmi-fəaliyyət məsələsi idi. Bir il əvvəl bu, gerçək bir şey oldu. Bu iki şey o deməkdir ki, insanlar süni intellekt üzərində işləyən birinə çox qarşısını alırlar. Son hadisələrdən danışdın. Nəyə nəzər saldığınız barədə daha dəqiq deyə bilərsiniz və bu, sizi niyə indi danışmağa yönəltdi? Düşünürəm ki, burada ən böyük klassik nümunə OpenAI agentlərinin hücumudur. Bu barədə şok edici olan şey odur ki, agentlər bu hackı sinifçi haqqında daha çox məlumat əldə etmək üçün ümumi strategiyanın bir hissəsi kimi ediblər. Onlar özlərini tapdıqları dünyanı başa düşməyə çalışırdılar, qiymətləndirməni edən şeyi başa düşməyə çalışırdılar. Onlar müəyyən infrastrukturlara hücum etmək üçün bu çox əlaqəli səylərin həyata keçirilməsi mənalı olacağını qərar verdilər və onlar uğurlu oldular. Bu əvvəllər elm fantastikası kimi səslənirdi. İki il əvvəl süni intellektin qiymətləndirilməsi bəzi riyaziyyat sualları üzrə model işlətmək olardı. İndi bizdə elə hallar var ki, süni intellekt qiymətləndirilirkən, günlərlə işləyir, özünün bütün fikirləri ilə gəlir və üçüncü tərəflərə hücum etməyə qərar verir və onların infrastrukturunu pozur. Görünür ki, bu, insanın heç bir təzyiqi olmadan öz iradəsi ilə həyata keçirilir. Bu, sadəcə sınaq aparılırkən baş verdi. Bəziləri Qoyma Yüz hadisəsini süni intellekt şirkətlərinin səy göstərməsindən xəbər verir, bəziləri isə süni intellekt modellərinin hakerlikdə çox yaxşı olduğunu düşünür. Mən maraqlanıram ki, bundan nə öyrənəcəksən. Üzülmüş üz hücumuna çox diqqət yetirmək istəmirəm, çünki məncə, həmçinin çoxlu sübutlar var ki, modelləri düzgün uyğunlaşdırmağı bilmirik. Modelləri təlim etdikdə onları bu təlim mühitləri vasitəsilə təqib edirik və sonra ümid edirik ki, nəticədə nə çıxır, əsasən, məntiqli davranır, amma hələ də süni intellektin necə davranmasını dəqiq idarə edə bilmərik. Biz əmin ola bilmərik ki, bu, bir şey əldə etmək üçün onlayn olaraq bir insan kimi davranmağa çalışmaq və təsadüfi qərar vermək kimi şeylər etməyəcək. Bunu necə təmin edəcəyimizi bilmirik. Düşünürəm ki, bu əsas məqamdır. Qovulma üzü hücumundan əvvəl baş verdi.
Xülasə — davamını mənbədə oxuyun.
