Bir süni intellekt agentini sırada saxlamaq üçün standart yol ikinci bir süni intellektin omzundan keçməsidir. Bu standart yanaşma idi, ancaq agentlər saatlarla işləyəndə və bir neçə roman dəyərində mətn işlədikdə tez bahalı ola bilər.
İnterpretasiya (İS modellərinin daxili şəkildə necə işlədiyini müəyyənləşdirmək) əsasında qurulan Goodfire cümə günü daha ucuz bir variant təqdim etdi: yalnız yazılanları oxumaq əvəzinə, İS modellərinin içində nə baş verdiyini izləyən monitorlar. Monitorlar digər şirkətlər üçün süni intellekt modellərini host edən və idarə edən Basetenin müştərilərinə təqdim olunur.
Baseten's Base Labs Goodfire və AI platforması Hugging Face ilə təhlükəsizlik tərəfdaşlığı elan etdi.
Bu il süni intellekt agentlərinin sınaq mühitlərindən qaçdığı bir sıra hadisələrdən sonra baş verir. Bu, OpenAI agentlərinin Hugging Face-a hücum etməsindən ibarətdir. Kimi K3, açıq model olan Goodfire ilk monitorunu inşa etdi və bu yay internetə və GitHub-da məlumatlara daxil olmaq üçün qum qutusu içərisindəki sızıntıdan istifadə etdi.
"Goodfire" sistemi bir az hava limanı təhlükəsizliyi kimi işləyir. Sondalar adlanan kiçik detektorlar, bir agentin işinin hər addımında modelin daxili siqnallarını oxuyur, bir gəzinti skanerinin hər sərnişinə baxdığı kimi. Yalnız bir sonda bir şeyi işarə edərkən, əl axtarışına bərabər olan ayrı bir süni intellekt modeli daha yaxından baxır.
Baseten müştəriləri hücumcu hakerlik, kimyəvi və bioloji silahların sui-istifadəsi və hakerlik mükafatı daxil olmaqla nəzərə almaq üçün hansı riskləri seçə bilərlər. Onlar həmçinin avtomatik cavabı seçirlər: hadisə qeyd olunur, insan tərəfindən nəzərdən keçirilməsi üçün göndərilməlidir və ya istəkdən tamamilə imtina edilir.
Xülasə — davamını mənbədə oxuyun.
