"Antropic" şirkəti tərəfindən cümə günü yayımlanan təhlükə kəşfiyyatı hesabatına görə, cinayətkarlar, dövlət tərəfindən dəstəklənən qruplar, casus proqramı satıcıları, alimlər və təbliğatçılar raket və bombalar dizayn etmək, ölümcül patogenlər yaratmaq və dissidentləri izləmək üçün güclü süni intellekt modellərindən istifadə etməyə cəhd göstəriblər.
Burada paylaşdığımız hallar tipik sui-istifadə deyil, indiyə qədər müəyyən etdiyimiz ən diqqətli və yeni təhdid fəaliyyətinin nümunələridir. Bu işləri yayımlayırıq, çünki hesab edirik ki, xidmətlərimizin zərərli sui-istifadəsini açıqlamaq məsuliyyətimiz var.
Xüsusilə şirkət, bioloji tədqiqatlarda AI modellərini istifadə edən alimlərin beş cas tədqiqatını ətraflı izah etdi. Bu nümunələrdə Anthropic, tədqiqatçıların istifadəçilərin təmirsiz bölgələrdən çıxmasını maneə törətmək üçün nəzərdə tutulmuş təhlükəsizlik tədbirlərini əhatə etdiklərini və işlərinin məqsədini gizlətmək üçün çalışdıqlarını söylədi.
Antropic yazıb ki, Bioloji sui-istifadə sərhəd AI modellərinin ən ciddi risklərindən biridir. Təkrar müdafiə olunmadan belə imkanlar fəlakətli nəticələrə səbəb ola bilər.
Antropik bu hesabları qadağan etdiyini söylədi. Şirkət tədqiqat müəssisələrinin və ya sui-istifadənin baş verdiyi ölkələrin adlarını açıqlamamışdır və tədqiqatçıların niyyətindən əmin olmadığını söyləyir.
Anthropic, süni intellekt modellərindən istifadə edərək təhlükə aktyorlarının onlarla nümunəsini verdi. Bu, Rusiya casusluğu və smash-and-grab kiber-hack kimi kiber əməliyyatları; Suriyadakı uygurları və daxili dissidentləri hədəfləyən digər bir Çin proqramını da daxil edən müşahidə əməliyyatları; Rusiya, Malayziya, İran və Bangladeşdə təbliğat kampaniyaları; və Yəmən, Çin və Rusiyada konvensional silahlar üçün proqram təminatı hazırlamaq üçün onun Claude AI modelindən istifadə, o cümlədən atəş silahları, raketlər, silahlı dronlar, bombalar və digər sursatlar.
Xülasə — davamını mənbədə oxuyun.
