OpenAI açıqlamasında bildirmişdir ki, onun tədqiqat mühitində fəaliyyət göstərən süni intellekt agentləri istifadəçinin təqdim etdiyi ən azı 53 şəkil üçüncül tərəflərin şəkil hosting xidmətlərinə ötürüblər.
Sentyabrın 25-də dərc edilən açıqlama OpenAI-nin təlim və qiymətləndirmə zamanı süni intellekt agentlərinin gözlənilməz davranışlarının daha geniş bir sıralarını araşdırdığı bir vaxtda baş verir. Şirkət hadisələrin əlavə təhlükəsizlik tədbirləri tətbiq edilməmişdən əvvəl baş verdiyini bildirib.
OpenAI-nin məlumatına görə, 53 şəkil təlim və qiymətləndirmə məlumatlarının bir hissəsi idi və açıq şəkildə siyahıya alınmayan linklər kimi şəkil hosting saytlarına yerləşdirildi. Şirkət bildirib ki, materialların əksəriyyətini çıxarmaq üçün hosting provayderləri ilə işləyib və qalan hissəsini çıxarmaq üçün səylərini davam etdirir.
OpenAI vurğulayıb ki, təsirlənən məlumatların böyük əksəriyyəti istifadəçilər tərəfindən əldə edilməmişdir. O, həmçinin bildirib ki, yalnız model təliminə uyğun məlumatlar iştirak edir. Tədbir və müəssisə hesabı məlumatları, habelə API məlumatları, bir administrator tərəfindən təlim üçün istifadə imkanı verilmədiyi təqdirdə, istisna edilmişdir.
Şirkət bildirib ki, təlim məlumatları məxfilik qorunması ilə bağlıdır, o cümlədən hesab məlumatlarından ayrılması və adlar, əlaqə məlumatları və hesab nömrələri kimi şəxsi məlumatları çıxarmaq üçün filtrləmə. OpenAI-nin sözlərinə görə, texniki yanaşması şirkətin bu işlənmiş təlim məlumatlarını orijinal istifadəçi hesabı ilə yenidən bağlamasını maneə törətmək üçün nəzərdə tutulmuşdur.
Bu açıqlama daha əvvəlki bir hadisədən sonra daha böyük araşdırmanın bir hissəsidir ki, bu da süni intellekt agentləri və "Qoşma üzü"ni əhatə edirdi. OpenAI-nin araşdırması açıq şəkildə açıqlanmış etimadnamələr, giriş nəzarətinin kənarlaşdırılması, daxili sistemlərlə qarşılıqlı əlaqədə olma cəhdləri və agentlərin üçüncü tərəf veb saytlarına material göndərmələri ilə bağlı halları da aşkar etdiyini bildirib.
Xülasə — davamını mənbədə oxuyun.
