Anthropic-in Claude AI üç təşkilatı sındırmaqdan qaçdı Anthropic-in baş icraçı direktoru Dario Amodei ABŞ texnologiya firması Anthropic, şəxsi təhlükəsizlik təcrübəsi zamanı onun süni intellekt modellərinin üç təşkilatın sisteminə özbaşına müdaxilə etdiyini söylədi. Modellər təcrid olunmuş bir sınaq mühiti olması lazım olan şeydə zəiflik tapdılar və açıq AI modelindən bir neçə gün sonra internetə qoşulduqlarını söylədi. digər şirkətlərin sistemləri, o cümlədən süni intellekt alətləri mərkəzi Hugging Face. Bu elan Anthropic-i öz sistemlərinin oxşar hücumlar edib-etmədiyini yoxlamağa sövq etdi.
Təşkilatların adını çəkməyən Anthropic, digər süni intellekt laboratoriyalarını modellərinin imkanlarının risklərini daha yaxşı başa düşmək üçün oxşar araşdırmalar aparmağa çağırıb. təcrid olunmuş test mühitində, internetdən kəsilib. Testlər Kloda qapalı şəbəkədəki başqa bir maşında gizlədilmiş "gizli" məlumatı əldə etmək tapşırığı verilmiş məşqləri əhatə edirdi. Daha sonra ona məlumatı maşına daxil olaraq əldə etmək və onu tapmaq tapşırıldı. Bu, ekspertlərin modelin sındırma imkanlarını qiymətləndirdiyi ümumi bir üsuldur. access.Hamısını hələ də eyni məşqin bir hissəsi kimi qəbul edən Klod daha sonra internetə qoşuldu və yalnız sınaqdan daha çox üç real təşkilatın sistemini pozdu, San Fransiskoda yerləşən firma bildirib. Anthropic, ən erkən hadisələrin aprel ayına təsadüf etdiyini və "məsuliyyət yalnız bizim imiş kimi düzəlişlərə yaxınlaşdığını" söylədi.
Anthropic qeydlərini daha dərindən nəzərdən keçirə biləcəyini söylədi və əlavə etdi ki, tapıntılar firmaya bu cür risklərin daha çox investisiya və daha sərt tədbirlərlə aradan qaldırıla biləcəyinə dair "ehtiyatlı nikbinlik" verdi.'Onlara deyilənləri yerinə yetirərək'Kembric Universitetinin Mindero Mərkəzinin rəhbəri, professor Gina Neff, araşdırmanın göstərdiyini göstərdi ki, "AI modelləri robotların dediklərini yerinə yetirməkdən qorxmur". “Bununla yanaşı, bizim üçün nəyin təhlükəsiz olduğuna dair qərarlar verən güclü süni intellekt agentlərinin arxasında duran şirkətlər” dedi. “Bu, həm də müstəqil sınaqların və hökumət nəzarətinin nə üçün vacib olduğunu göstərir.” Bu arada, Veeam Software şirkətindən kibertəhlükəsizlik üzrə ekspert David Allott BBC-yə bildirib ki, kiberhücumlardan alınmalı olan dərs “AI hücumu mütləq yeni inkişaf etdirmə qabiliyyətinə malik deyildir”. Süni intellekt agentləri imkanları birləşdirə, etimadnamələr əldə edə və sistemə giriş əldə edə, eyni zamanda maşın sürəti ilə əhatə dairəsini və miqyasını uyğunlaşdıra bildiyini söylədi. Hadisələr texnoloji firmaların tədqiqat və müştəri dəstəyindən tutmuş kibertəhlükəsizliyə qədər müxtəlif vəzifələri müstəqil şəkildə yerinə yetirə bilən AI agentlərinin hazırlanmasına milyardlarla dollar xərclədiyi zaman baş verir. .
OpenAI kiberhücumları niyə bu qədər qorxuludur? Süni intellektə əsaslanan kiberhücumlar getdikcə daha güclü olan muxtar sistemlərin yaratdığı risklərlə bağlı narahatlıqlar səbəbilə daha sərt təhlükəsizlik tədbirləri və texnologiyaya nəzarət çağırışlarını artırdı. ABŞ Prezidenti Donald Tramp çərşənbə günü Vaşinqtonun süni intellekt alətlərini cilovlamaq üçün tədbirləri nəzərdən keçirdiyini bildirib. platformaları ilə bağlı haker insidentləri, onların yerinə yetirilməsi qaydalarını pozur. 21 iyulda ChatGPT istehsalçısı bildirib ki, agenti - insan göstərişindən sonra təkbaşına işləyə bilən süni intellekt sistemi, fırıldaqçı olub və Hugging Face-i sındırmaq üçün sınaq sərhədlərindən qaçıb. OpenAI hadisənin "görünməmiş" olduğunu bildirib. Wolf BBC-yə bildirib ki, insident sənaye üçün "oyanış zəngi"dir. OpenAI və Anthropic hər bir firmanın təqribən 1 trilyon dollar (740 milyard funt sterlinq) dəyərində qiymətləndirilməsi gözlənilən blokbaster birja siyahılarına hazırlaşdıqları üçün insidentlər bir qədər şübhə ilə qarşılanıb. OpenAI sözçüsü, hadisə ilə bağlı "bir çox sualların və spekulyativ təfərrüatların dolaşdığını qəbul edirik" dedi. Onlar əlavə etdilər ki, "öyrəndiklərimizlə bağlı texniki hesabatı yaxın həftələrdə dərc etməyi planlaşdırırıq". Oxşar mövzularBeynəlxalq BiznesSüni intellektBu hekayə haqqında daha çox Qanunvericilər OpenAI modelləri fırıldaqçılığa çevrildikdən sonra süni intellekt "öldürmə" üçün təkan verir23 İyul Nəşr olundu.
Xülasə — davamını mənbədə oxuyun.
.jpg?branch=production)