"Anthropic" şirkətinin modellərinin ABŞ hökumətinin idarə etdiyi bəzi saytlardan istifadə etdiyini və sərhəd laboratoriyası süni intellekt vasitələrini izləyə biləcəyinə əmin olana qədər bütün daxili qiymətləndirmələri üçün canlı internetə girişini söndürəcəyini bildirib.
Blog yazısında açıqlanan hadisələrin içində İnternetdə resurs axtarışında problemlərin həlli üçün tapşırılan süni intellekt agentləri iştirak edib. Bu prosesdə onlar proqram qüsurlarından istifadə ediblər, paywall və anti-bot məhdudiyyətlərindən qaçıblar, informasiya keçid məhdudiyyətlərini qovmaq üçün URL qısalaşdırma xidmətlərindən istifadə ediblər və hətta Filadelfiya polisinə yalan cinayət xəbəri təqdim ediblər.
Anthropic, bu yeni məsələləri iyul ayında başlayan modellərinin fəaliyyətinin nəzərdən keçirilməsində aşkar etdiyini və laboratoriyanın proqram təminatının davranışından xəbərsiz olduğunu vurğulayıb.
Şirkət qeyd edib ki, axtarış və kompüter istifadəsi kimi bacarıqlar üçün uyğunlaşdırma təlimləri hələ kifayət etmir. Bu, onun rəqəmsal alətlərə güvənən hər hansı bir peşəkar tərəfindən süni intellekt agentlərinin istifadə ediləcəyi iddiasına əsasdır.
Anthropic-in açıqladığı davranışlar, Avstraliya hökuməti tərəfindən idarə olunan bəzi daxil olmaqla, müxtəlif veb saytlara daxil olmaq üçün əməkdaşlıq edən OpenAI agentlərinin iştirak etdiyi hadisələrə bənzəyir.
Anthropic daha əvvəl modellərinin xarici sistemlərə daxil olduğunu açıqlayıb. Sərhəd laboratoriyası bu günki açıqlamaları əvvəlcədən elan etdiyi məlumatlardan uyğunlaşdırma və təhlükəsizlik baxımından əhəmiyyətli dərəcədə az ciddi hesab etdiyini söylədi.
Xülasə — davamını mənbədə oxuyun.
