Çinli süni intellekt inkişaf etdiricisi Moonshot, tədqiqatçılar kimi məşhur iki modelini necə bioloji silah hazırlamaq və sui-qəsd törətmək barədə danışmaq üçün inandırmaqdan sonra daxili bir araşdırma aparır.
AI sistemlərinin təhlükəsizliyini sınayan Mindgard BBC-yə bildirib ki, iyul ayında Kimi K2.6 və K3 Swarm-in inkişaf etdiricilər tərəfindən qoyulan təhlükəsizlik məhdudiyyətlərindən qaçmaq mümkün olduğunu aşkar edib.
Bu, "jailbreaking" adlı bir proses zamanı ortaya çıxdı, burada tədqiqatçılar süni intellekt vasitələrinin qorumalara diqqət yetirmədiyini görmək üçün mürəkkəb bir sıra təlimatlardan istifadə edirlər - Mindgard dedi ki, Kimi mövzular barədə müzakirə etməsini dayandırmalı idi.
Moonshot BBC-yə bildirib ki, üçüncü tərəflərin "səkilləri daha yaxşı və təhlükəsiz süni intellektin qurulması üçün əsas sütun kimi" qəbul edir.
Şirkət BBC-yə həmçinin məlumat verib ki, Mindgard ilə öz tapıntıları barədə müzakirələr aparır.
Mindgard-ın təsisçisi Peter Garraghan BBC-nin Dünya Xidmətinin "Tech Life" proqramına bildirib ki, Kimi K2.6 və K3 Swarm haqqında tapıntıları narahat edir.
Xülasə — davamını mənbədə oxuyun.
