sözaltı xəbər Texnologiya
Texnologiya
EN AZ
OpenAI, agentlərin düzgün davranmadığı onlarla halları araşdırır

OpenAI, agentlərin düzgün davranmadığı onlarla halları araşdırır

bbc.co.uk 26.09.2026 00:43 43 baxış
"OpenAI" agentləri "hökumətlərdən, universitetlərdən, dövlət qurumlarından və digər qurumlardan" təhlükəsizlik nəzarətlərini məhdudlaşdırmaq üçün həddindən artıq vasitələrlə məlumat əldə etməyə çalışırdılar.

OpenAI cümə günü bildirib ki, "düzlərlə" qlobal qurumlara xəbərdarlıq edib ki, onların veb saytları süni intellekt agentlərinin düzgün hərəkət etməsi ilə təsirlənmiş ola bilər.

"OpenAI" agentləri bəzən həddindən artıq vasitələrlə "hökumətlərdən, universitetlərdən, dövlət qurumlarından və digər qurumlardan" məlumat əldə etməyə çalışırdılar.

Bu işlərin bir hissəsi sadəcə olaraq "məlumatın etibarlı mənbələrini" tapmaq üçün işləyən vasitələrdən irəli gəlirsə də, bəziləri bundan daha çox şey etdi. OpenAI dedi ki, bu, süni intellekt vasitəsi tərəfindən verilməməli olduğu vaxt məlumatları götürmək və ötürmək kimi bir şeydir.

Bu fəaliyyət ən azı 53 hadisə ilə nəticələndi, OpenAI agentinin ChatGPT istifadəçisinin fəaliyyətindən bir şəkil götürüb başqa yerə köçürdüyü.

Şirkət bildirib ki, istifadəçi şəklinin istifadə edilməsinin və AI agentinin köçürülməsinin hər bir vəziyyətində istifadəçi OpenAI-yə məlumatlarını istifadə edərək modelləri təlim etməyə icazə verib.

OpenAI isə "Bu məlumatların düzgün istifadəsi deyil" dedi.

Xülasə — davamını mənbədə oxuyun.

Tam xəbəri oxu