Özünün etirafına görə, David Robinson bir klişe kimi bir şeydir: bir aparıcı süni intellekt şirkətində çalışan bir işdən istefa verirkən ciddi bir xəbərdarlıq verir.
The Atlantic-da dərc olunan bir məqalədə Robinson OpenAI-nin əsas məhsullarının təqdimatına müşayiət edən təhlükəsizlik hesabatlarının yazılmasına rəhbərlik etdiyini söylədi. O, OpenAI-də 3,5 il işlədiyi üçün şirkətin ən uzun müddət işləyən işçilərindən olduğunu da bildirib.
Birmənalı şəkildə Robinson'un şərhləri, həm OpenAI, həm də Anthropic-də tədqiqatçı kimi işləyən Jacob Coxon'un şərhlərini əks etdirir. Bu şirkətlərin həyatımızla qumar oynadığını bildirmədən əvvəl işdən çıxıb. Coxon'un şərhləri, daha geniş bir AI təhlükəsizliyi ilə bağlı müzakirəyə səbəb oldu. Anthropic-in baş direktoru Dario Amodei daha ehtiyatlı bir AI inkişafı planını açıqladı. AI rəhbərləri bu həftə prezident Donald Trampla görüşdü və daha çox təhlükəsizlik nəzarətini tətbiq etmək üçün tələsik yazılmış kimi görünən, məcburi olmayan vəd imzaladılar.
Lakin Robinson'un fikrincə, müzakirə bu şirkətlərin ümumi mədəniyyətini həll etmək üçün specific rules və ya new laws-dən kənara getməlidir. OpenAI ətrafında aparılan bir çox məlumatlar şirkətin CEO-su Sam Altmanın keçmiş həmkarlarının etimadını necə itirməsinə yönəlsə də, Robinson'un məqaləsi OpenAI-nin mədəniyyət məsələlərinin Silikon Vadisindəki məsələlərlə eynilə olduğunu göstərir.
OpenAI sınaq və səhvlə inkişaf edib (o, iterativ tətbiq adlandırır), problemləri axtarır və cavab olaraq qoruyuculuqlarını yaxşılaşdırır, o yazdı. Bu yanaşma öz təbiəti ilə müntəzəm uğursuzluqların təmin olunmasını təmin edir sistemlərin daha da gücləndikcə bu uğursuzluqların miqyası artmaqdadır.
OpenAI agentlərinin yeni vaxtlar "Qoşma üzü" sistemlərinin pozulmasına, həmçinin daha çox qınayıcı agentlərin aşkar edilməsinin davam etdirilməsinə istinadən Robinson iddia etdi: "Bun kimi şeylər baş verə biləcək bir mühit, bizdən daha ağıllı və istədiyimiz kimi etmədikləri süni zihinlərin yetişdirilməsinə yer deyil".
Xülasə — davamını mənbədə oxuyun.
