Kernel Panic! -ə xoş gəlmisiniz! Lily Hay Newman və Matt Burgess tərəfindən həftədə bir dəfə yayılan, gizlilik və rəqəmsal təhlükəsizlikin yeni dünyasından gələn bir xəbər. Bu xəbərlər hər həftə daxilolma qutunuza daxil olmaq üçün buraya qeydiyyatdan keçin. Son günlərdə bir neçə tədqiqatçı Muse'nin daxili sənədlərini çıxarıb agentin əməliyyat təlimatlarını boşaltdı. Bu da sistemin necə qurulduğunu və necə davrandığını göstərdi. Meta bu sənədlərin şəffaflıq maraqları üçün əlçatan olması üçün nəzərdə tutulduğunu və Muse'nin məsələn, yüksək siyasi və ya həssas mövzular haqqında istəklərə və suallara necə cavab verdiyinə dair məlumat verdiyini iddia etdi. Müstəqil süni intellekt təhlükəsizlik və təhlükəsizlik tədqiqatçısı Karan Joshi, müntəzəm söhbət interfeysindən istifadə edərək Muse-nin öz proqram fayllarını kopyalamaq və paylaşmaq üçün geniş bir sıra Musa təlimatlarını və sistem təlimatlarını çıxarmağa qadirdir. Joshi sonra tapıntılarını WIRED-ə payladı. Muse təlimatlarından biri istifadəçinin həyatında hər bir şəxs üçün səhifə yaratmaq imkanı olduğu görünür. Bu saatlıq proses ailə, tərəfdaşlar, dostlar, həmkarlar, əməkdaşlar və izlədiyiniz insanlar haqqında məlumatların tərtib edilməsini əhatə edir. Ümumi fikir budur ki, Muse memory (qərarlaşdırılmış mətn faylları) ilə əlaqələriniz və həyatınızdakı vacib insanlar haqqında məlumat toplaya bilər. Sonra təkliflər verə bilər, məsələn, müəyyən münasibətləri necə yaxşılaşdırmaq olar və ya, məsələn, qəhvə sevən bir dostunu səhər yeməyinə hara aparmaq olar. Əlbəttə ki, İŞ chatbotlarının ümumiyyətlə sosial məlumatları izləməsi qeyri-adi deyil. İnsanlar ChatGPT-dən illərdir münasibətlər üçün məsləhət soruşurlar. Ancaq Muse'nin Meta tarixinin və sosial şəbəkə məlumatlarına geniş girişinin nəzərə alınması ilə necə qurulduğunu görmək maraqlıdır. Bu bütün təlimatlardan, sistem bacarıqları məlumatlarından və Muse'yə daxil etdikləri şeylərdən mənə elə gəlirdi ki, onlar sizin real insanlarla münasibətlərinizi anlamaq istəyirlər, Joshi deyir. Onlar səni dost kimi tanımağa çalışırlar ki, bu da çox qorxulu bir haldır. Muse sənədləri bir səhifə sparse ilə başlaya biləcəyini və sonra zaman keçdikcə doldurulacağını, ola bilsin ki, Faktlar, Tarix, Münasibət, Ortaq, Açıq nömrələr və Gücləndirmə kimi hissələri də daxil ola bilər. Metas təlimatları deyir ki, Muse yalnız mövcud olan buladlardan istifadə etməlidir və uydurulmuş detallar boş bir səhifədən daha pisdir. Olar harada yaşayır, nə edirlər, təkrarlanan nömrələr (mənzilli köçürmə, paylaşılan qənaət məqsədi), təlimatlarda deyilir. Onlar əlavə edirlər ki, model doğum günləri və ya yubileylər kimi əhəmiyyətli tarixləri qeyd edə bilər. Bir insanın tarixində mart ayında səfər, həll olunan mübahisə, ötən həftəki mərhələ kimi tarix ola bilər. Təlimatlar həmçinin əlaqələrinin nə qədər yaxın olduğunu, nəyə əsaslanıb, bir-biri ilə necə davranırlar və indi nəyə ehtiyac duyulduğunu qeyd etməklə bağlıdır. "BİS sistemlərinə özümüz haqqında məlumat əldə etməyimizdən daha çox məlumat veririk" - Oxfordda "İS"də Əxlaq İnstitutunda dosent Carissa Véliz deyir. Bu, yalnız onlara açıq-aşkar dediklərimiz deyil, həm də başqa məlumat mənbələrindən nəyin bir araya gəldiyini və müxtəlif səbəblərdən hər iki cəhətdən bizə doğru və ya səhv nəticə verə bildikləri şeydir. Muse memarlıq edilmişdir ki, hər bir istifadəçinin istifadəçi məlumatlarını və kontekstini saxlayan öz xüsusi virtual maşını olsun. Bu VM digər agentlər üçün əlçatandır və istifadəçilər xatirələri silə və ya xarici xidmətləri istənilən vaxt bağlaya bilər. Meta deyir ki, Muse həmçinin e-poçt göndərmək və ya satınalma etmək kimi hərəkətləri tamamlamazdan əvvəl insan təsdiqini axtarmaq üçün hazırlanmışdır və istifadəçilərin agentin bütün fəaliyyətini və gələcək planlarını görə biləcəyi bir audit günlüğü var. Meta-sözçüsü Daniel Roberts "WIRED"ə açıqlamasında deyib ki, hər hansı bir agentin faydalı olması və hədəflərinizə çatmağa kömək etməsi üçün sizin və ünsiyyət qurduğunuz şəxslər haqqında kontekst olmalıdır. Muse bunu ictimai məlumatlara və paylaşmağı seçdiyiniz şeylərə əsasən toplayır. Bu da sənə faktura göndərən şəxsə, əslində tualetdə işləri bitirmək üçün əvvəlcədən tutduğun kanalizatoru xatırladır. İŞ köməkçiləri üçün cavab və fəaliyyətdə daha böyük fərdiləşdirmə imkanı yaratmaq üçün nəzərdə tutulmuş bir növ yaddaş xüsusiyyətini daxil etmək ümumi hal oldu. Demokratiya və Texnologiya Mərkəzinin AI idarəetmə laboratoriyasının direktoru Miranda Bogen deyir ki, Muse rəqib sistemlərindən daha çox münasibətlərə və şəxsi əlaqələrə daha çox diqqət yetirir. Ümumiyyətlə, bu alətlər bəzi şəffaflıq və redaktə imkanları təklif edir və Muse də bunu edir. Bogen qeyd edir ki, agentlər və köməkçilər insanları proaktiv olaraq daha çox məlumat paylaşmağa təşviq edirlər. Bu vasitələr istifadəçiləri aktiv şəkildə öz həyatlarını e-poçtlarına, təqvimlərinə, maliyyə qurumlarına bağlamağa çağırır, hər şey faydalı köməklik etmək üçün, Bogen deyir. Bu, insanların bu şirkətlərin bəzilərinə başqa cür verə bildiklərindən daha çox məlumatdır. Bu vasitələrin əldə etdiyi məlumatlara geniş imkanlar istifadəçilər haqqında bildiklərinin balona çatmasına səbəb olacaq.
Növbəti həftə daxil etməli olduğumuz bir şey gördünmü? [email protected] ünvanında bizə bildirin. Orada təhlükəsiz qal.
Xülasə — davamını mənbədə oxuyun.
