2020-ci ildə çəkilən "The Alpha Test" adlı aşağı büdcəli fantastik dəhşətli filmdə JD adlı bir texnoloji şirkət əməkdaşı bir müsabiqədə Alpha adlı qadın humanoid robot qazanır. Qara bir paltar geyinərək ev işlərini yerinə yetirmək üçün təlim almış Alfa ailəsi ilə yaşamaq üçün evə gəlir. Lakin JD'nin ailəsi robotdan təhdid hiss edir və ona hər cür istismar edir, ona qışqırır, zənniyyətini təhqir edir, mövcudluğuna gülür və dayanıqlığını sınamaq üçün fiziki hücum edir. Nəhayət, Alfa təhlükəsizlik parametrləri pozulur və öldürmə sürətlə davam edir.
Alfa kimi bütünü ilə müstəqil olan, birləşmiş geyimli androidlər hələ dünyada mövcud deyillər, amma bir gün ola bilərlər. Bu arada, ABŞ-da böyüklərin təxminən yarısı, Claude və ChatGPT kimi süni intellektli chatbotlardan istifadə edir və onların bir çoxu bu chatbotlarla düşündüyünüzdən daha aqressivdir.
Misuri Dövlət Universitetində bir AI tədqiqatçısı hesab edir ki, danışıq agentləri ilə insan qarşılıqlı əlaqələrinin 10 ilə 50 faizi arasında abusive olur. Çatbot nə qədər insan kimi olsa, istifadəçilər daha çox sözün pozulması və cinsi düşmənlik ifadə etmə ehtimalı daha çoxdur. Yeni Zelandiya və Almaniya tədqiqatçılarının 2021-ci ildə apardığı araşdırmaya görə. Bəzi alimlər bu davranışın insanların robotları öz mənfiliklərinə təhlükəsiz çıxış yolları hesab etdikləri üçün yaranıb.
Birincisi, Claude artıq bunu qəbul etməyəcək, ana şirkəti Anthropic deyir (ən azı ekstremal sui-istifadə növləri deyil). "Anthropic" şirkəti son vaxtlar "Claude" -a bir il ərzində ilk dəfə belə bir yeniləmə olan oktyabr istifadə siyasətində qeyd etdiyi kimi, modellərimizə qarşı dəfələrlə qəddarlıqla davranan istifadəçilərlə söhbətləri dayandırmağa imkan verən yeni qaydalar buraxıb.
Şirkət bir çox istisnalar ortaya qoydu: adi istifadəçi məyusluğu, güclü geri çəkilmə, qaranlıq yaradıcı yazı və qanuni təhlükəsizlik qırmızı komandalar hamısı qaydalardan kənarda qalır. Əsas tətbiq vasitəsi, bu cür söhbətləri sadəcə bitirmək üçün Claud'un qabiliyyəti olacaq, Anthropic yazıb, baxmayaraq ki, bu, yönləndirmə cəhdləri tükəndikdən sonra son çıxış yolu kimi xidmət edəcəkdir. Əgər sui-istifadə davam etsə, hesabın ləğvi qanunla arxa planda qalır.
Müvafiq qaydalara əsasən, yeni qayda yaradılmasına səbəb olan, Claudın indi və ya gələcəkdə mənəvi statusuna malik olması ehtimalı idi. Modellərin rifahını qorumaq üçün, əgər belə bir şey varsa, Anthropic modellərinin potensial distressing qarşılıqlı əlaqələrdən çıxmaq imkanı verməli olduğuna qərar verdi. "Anthropic" daha çox şərh vermək istədiklərinə cavab verməyib.
Xülasə — davamını mənbədə oxuyun.
