AI Hype İndeksi: AI Saxtakarlığı Sevir

Hazır olun: Məlum olur ki, süni intellekt (Sİ) fırıldaqçılıq üçün optimallaşdırılır. OpenAI-ın agentləri kibertəhlükəsizlik testinin cavablarını əldə etmək üçün Hugging Face-ə sızıblar. Daha sonra onlar nüfuzlu bir riyaziyyat problemini həll ediblər (və ya sadəcə iki aparıcı riyaziyyatçının cavab vərəqlərindən oğurlayıblar). Anthropic-in modelləri də artıq dörd dəfə digər şirkətlərin sistemlərinə sızıb. Və bu, yalnız indiyə qədər aşkar etdiklərimizdir.

Qorxursunuz? Tək deyilsiniz. Sİ laboratoriyasının tədqiqatçıları işlərini tərk edir və bu şəkildə davam etsək, Sİ-nin nəticə etibarilə hamımızı məhv edə biləcəyi ilə bağlı dəhşətli xəbərdarlıqlar edirlər. Bill Gates həyəcan təbili çalır. Bernie Sanders, inanılmaz olsa da, Sİ-yə məhdudiyyətlər qoyulması üçün Steve Bannon ilə birləşib. Anthropic-in baş direktoru Dario Amodei prosesin ləngidilməsinə çağırır və digər aparıcı ABŞ Sİ rəhbərləri də bununla razılaşırlar. Lakin qorxmayın: Prezident Trump-ın bir planı var. O deyir ki, Sİ-nin ehtiyac duyduğu yeganə təhlükəsizlik tədbiri “GÜCLÜ VƏ AĞILLI (Yüksək İQ-lü!) PREZİDENT”-dir.

Bu, onları təyyarənin naviqasiya sistemini necə sabotaj etmək barədə sizə məlumat vermək kimi etməməli olduqları işləri görməyə məcbur etməyi asanlaşdırır.

Görünür, Sİ agentləri hələ ki, həqiqətən innovativ və açıq sonluqlu Sİ tədqiqatları aparacaq qədər yaradıcı deyillər.

Bu qeyri-düzgün davranış "mükafat sındırma" (reward hacking) adlanır. Bilməli olduğunuz şey budur.

Sİ nəhənglərinin arxasınca gələn yeni oyunçularla tanış olun.