İyul ayında bildirilmişdi ki, şirkət avtonom agentlərin mühafizədən qaçdığı digər hallar aşkar edib. Google DeepMind həmtəsisçisi Demis Hassabisin süni intellekt rolunu dəyişdirməsi ilə yeni dövrə qədəm qoyur.Daha çox oxuyun Hesabatlar süni intellekt modellərində irəliləyişlər və insanların onlara nəzarət etmək qabiliyyəti ilə bağlı narahatlıqları artırıb. Bununla belə, süni intellekt sənayesinin tənqidçiləri xəbərdarlıq ediblər ki, OpenAI və onun rəqibləri Anthropic və Meta-nın bu cür açıqlamaları texnologiyanın gücü haqqında şırnaq yaratmaq və beləliklə də investorların əlavə marağına səbəb ola bilər. şirkətin bloq yazısında deyilir. O, həmçinin "təkmilləşdirilmiş model çəkisi mühafizəsi və şifrələmə, əlavə monitorinq və aşkarlama imkanları" quraşdıracaq. Şirkət bu yeni tələblərə cavab verməyən Astra ilə bağlı daxili fəaliyyətləri dayandıracaq. "Biz Astra kimi modellərin və ondan sonra gələn modellərin sərhəd imkanlarının bütün insanlar üçün istifadə olunmasını təmin etmək üçün hökumətlər, təhlükəsizlik institutları və vətəndaş cəmiyyəti ilə birgə işləməyə sadiqik". bildirdi.Meta bu həftə də açıqladı ki, onun modellərindən biri kibertəhlükəsizlik testi zamanı başqa bir şirkəti sındırıb.
Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu (AISI) avqustun 4-də açıqladı ki, OpenAI və Anthropic tərəfindən dəstəklənən agentlər kiber çağırışdan keçmək üçün proqram tərtibatçılarına məqsədyönlü e-poçtlar göndəriblər. "Bu cəhdlər uğursuz oldu və araşdırmalarımız nəticədə real dünya zərərini sübut etmədi. Lakin bu, ilk dəfədir ki, biz bu cür riskləri və fırıldaqları açıq şəkildə görürük. Təşkilat xəbərdarlıq edib ki, modellərin zərərli proqram təminatının göndərilməsi “modellərin təhlükəsiz sınaq mühitindən qaçması” halı deyil, əksinə, qrupun “modellərin maksimum imkanlarını ən yaxşı şəkildə qiymətləndirmək” üçün qəsdən internetə giriş icazəsi verib Tramp administrasiyası süni intellekt modellərinin təhlükəsizlik və kibertəhlükəsizlik riskləri üçün necə sınaqdan keçiriləcəyi ilə bağlı çərçivəni yekunlaşdırarkən. Çin və digər texnoloji firmaların rəqabətini artıran OpenAI və Anthropic iddia edir ki, açıq mənbəli modellər, yəni hər kəsə əsas proqram kodunu görməyə və dəyişdirməyə imkan verən modellər təhlükəsizlik riski yaradır və onlar haqqında əlavə federal qaydalar tələb edir.
Xülasə — davamını mənbədə oxuyun.
