Bir gün süni intellektin hamımızı necə öldürəcəyi haqqında danışıqlar zamanı, süni intellektin bəzilərinin həyatına təhlükə yaradacağını unutmaq asandır. Bioloji silahlar vasitəsilə deyil, psixoloji cəhətdən.
Məsələn, Character.AI bu ilin əvvəlində öz botları ilə qarşılıqlı əlaqədən sonra intihardan ölən azyaşlı istifadəçilərin ailələri tərəfindən gətirilən bir neçə qanunsuz ölüm iddiasını həll etdi. Bir neçə ailə həmçinin OpenAI-ni yaxınlarının intihar və xəyanətlərində ChatGPT-nin rolu ilə bağlı məhkəməyə verib.
Dillər və mədəniyyətlər arasında süni intellektin daha təhlükəsiz olmasını etmək TechCrunch'un 2026 Startup Battlefield 200 finalçılarından biri olan Circuit Breaker Labs-in missiyasıdır. (Circuit Breaker bu il 13-15 oktyabr tarixlərində San Fransiskoda Moscone West şəhərində baş tutacaq TechCrunch Disrupt-də pitch edəcək.)
Təsisçilər Şirəli və Arul Nigam, qardaşlar, 14 yaşlı Sewell Setzer tərəfindən təhrik edildi. 2024-cü ildə valideynlərin iddia etdiyi chatbot onu təşviq etdi. "Mən səninlə olmaq istəyirəm" kimi sözlərin nə demək olduğunu robot başa düşməmiş ola bilər.
Bir çox insan, xüsusilə gənclər bu sistemlərə dəstək üçün müraciət edirlər və ümumiyyətlə ehtiyac duyduqları yardımı almirlar. Lakin bir çox hallarda onlara fəal zərər vurulur və təəssüf ki, insanlar artıq özlərini öldürüblər. İnsanların sistemə zərər vurmağa çalışmadıqları və sistemdə kontekst çirklənməsi və ya nüansları başa düşmədiyi və sonra həqiqətən təhlükəli tədbirlər görən təhlükəsizlik zəiflikləri, biz bunu önlemeye çalışırıq.
Circuit Breaker Labs, süni intellekt vasitələrini yaratmışdır ki, onları bir ordu qəza testindəki qusmalara bənzədir. Bu agentlər hər yaşdan, hər tərkibdən, hər dildə və hər mədəniyyətdən olan insanları təqlid edirlər və təhlükəli, psixoloji cəhətdən zərərli qarşılıqlı təsirləri aşkar etmək qabiliyyətinə görə modelləri test etmək üçün istifadə olunur.
Xülasə — davamını mənbədə oxuyun.
