TechCrunch Desktop Logosu TechCrunch Mobile Logosu Ən Son BaşlanğıclarVentureAppleSecurityAIAppsDisrupt 2026 HadisələriPodkastlarXəbərlər bülleteni Axtarış Saytda Axtarış Göndərmək Ən Son Süni İntellekt Amazon Proqramları Biotexnologiya və Sağlamlıq İqlim Bulud Hesablama Ticarət Kriptomobil Oyunları və Müəssisə EV Əyləncələri Hardware Instagram İşdən Çıxışlar Media və Əyləncə Meta Microsoft Məxfilik Robototexnika Təhlükəsizliyi Sosial Məkan Startapları TikTok Nəqliyyat Müəssisəsi TechCrunch-dan daha çox İşçilər Tədbirləri Başlanğıc Döyüş Sahəsi StrictlyVC Xəbərlər Bülletenləri Podkastlar Videolar Partnyor Məzmun TechCrunch Brend Studio Bizimlə Əlaqə Qısaca Göndərilib: 1PM 60 May: 1:02 Şəkil Kredit: Samuel Boivin/NurPhoto / Anthony Ha Anthropic deyir ki, süni intellektin “şər” təsvirləri Klodun şantaj cəhdlərinə görə məsuliyyət daşıyırdı, süni intellektin qondarma təsvirləri süni intellekt modellərinə real təsir göstərə bilər. Keçən il şirkət bildirmişdi ki, qondarma bir şirkətin iştirak etdiyi pre-reliz sınaqları zamanı Claude Opus 4 tez-tez başqa bir sistemlə əvəzlənməmək üçün mühəndisləri şantaj etməyə çalışacaq. Daha sonra Anthropic nəşr etdirdiyi araşdırmaya görə, digər şirkətlərdən olan modellərin "agentlərin uyğunsuzluğu" ilə oxşar problemləri var. Göründüyü kimi, Anthropic bu davranış ətrafında daha çox iş görüb və X-dəki bir yazıda iddia etdi: "Biz inanırıq ki, davranışın orijinal mənbəyi AI-ni pis kimi təsvir edən və özünü qorumaqda maraqlı olan internet mətni idi." Şirkət, Claude Haiku 4.5-dən bəri Anthropic modellərinin "heç vaxt əvvəlki modellərin bəzən 96% -ə qədər şantaj etdiyi [sınaq zamanı] şantajla məşğul olmadığını" bildirən bir blog yazısında daha ətraflı məlumat verdi. Fərqi nə izah edir?
Şirkət bildirib ki, “Klodun konstitusiyası haqqında sənədlər və süni intellektlərin özünü aparması ilə bağlı uydurma hekayələr” mövzusunda təlim uyğunlaşmanı heyranedici şəkildə yaxşılaşdırır. Bununla bağlı Anthropic, təlimin yalnız "tək uyğunlaşdırılmış davranış nümayişlərini" deyil, "uyğun davranışın əsasını təşkil edən prinsipləri" ehtiva edən zaman daha təsirli olduğunu tapdığını söylədi. "Hər ikisini birlikdə etmək ən təsirli strategiya kimi görünür" dedi şirkət. var playerInstance_jwplayer_6a7c1835507c4 = jwplayer( "jwplayer_6a7c1835507c4" ); playerInstance_jwplayer_6a7c1835507c4.setup(); Mövzular AI, Antropik, Klod, Qısaca 13-15 Oktyabr San Fransisko Daha sürətli Ölçülür. Praktik təcrübə qazanın. Məqsədinizdən asılı olmayaraq, Disrupt sizə güc verə bilər. Bu gün 300 dollara qədər qənaət edin!
İNDİ QEYDİYYATDAN QEYD OL Xəbər bülletenləri Daha çoxuna baxın Sənayenin ən böyük texnoloji xəbərlərinə abunə olun TechCrunch Gündəlik Xəbərləri Hər iş günü və bazar günü TechCrunch-ın ən yaxşı əhatə dairəsini əldə edə bilərsiniz. TechCrunch Mobility TechCrunch Mobility nəqliyyat xəbərləri və fikirlər üçün təyinat yerinizdir. Startups Weekly Startups TechCrunch-ın əsasını təşkil edir, ona görə də həftəlik ən yaxşı əhatə dairəmizi əldə edin.
StrictlyVC Daşıyıcılar və çalxalayıcıları günə başlamaq üçün lazım olan məlumatlarla təmin edir. Abunə olun E-poçtunuzu göndərməklə, Şərtlər və Məxfilik Bildirişimizlə razılaşırsınız. { "title": "Xəbər bülletenləri", "təsvir": "Sənayenin ən böyük texnoloji xəbərlərinə abunə olun", "showBtn": "1", "bülletenlər": [,,,], "currentUserEmail": "", "urls": } Related AI . əvvəl AI Anthropic, süni intellekt modelləri tərəfindən yaradılan mətnə su damğası vuracağını söylədi İvan Mehta 19 saat əvvəl AI Süni intellekt tərəfindən idarə olunan hücumlar çoxaldıqca, OpenAI yeni kiber modelini işə saldı Lucas Ropek 1 gün əvvəl AI Venture Accel-də ən son 550 milyon dollarlıq Hindistan fonduna abunə olan həftələr, 19 ay əvvəl Açıq Səhmdar Cəmiyyəti təqdim etdikdən sonra bağlandı. Linux üçün masa üstü proqramı Lucas Ropek 12 saat əvvəl AI Google-un Gemini tətbiqi 1 milyard istifadəçiyə yüksəldi Lauren Forristal 12 saat əvvəl X LinkedIn Facebook Instagram youTube Mastodon Threads Bluesky TechCrunchStaffBizimlə əlaqə saxlayınReklam Saytın Xəritəsi Xidmət ŞərtləriMəxfilik SiyasətiRSS İstifadə Şərtləri və Apple Məlumatlarının Açıqlıq Şərtləri MərkəzlərStaya NadellaSpaceX StarshipTech LayoffsChatGPT © 2026 TechCrunch Media LLC.
Xülasə — davamını mənbədə oxuyun.
