Son vaxtlar bir AI agentinin Medicare kompüter təhlükəsizliyinin pozulması ilə bağlı panikaya səbəb olan Telstra və Optus kəsilməsi kimi digər son hallarla kəskin şəkildə müqayisə olunur. Bu hallarda heç kim müalicədə olan kompüterləri günahlandırmadı. Səhvlər onları idarə edən şirkətlərə açıq şəkildə verilmişdir.
Bu həmişə belə deyildi. "Süni intellekt" termini təxminən 70 il əvvəl ortaya çıxarkən ilk mainframe kompüterləri (müasir standartlara görə absurd olaraq primitiv) indiki günün AI agentləri kimi eyni ürək və narahatlıqla baxırdılar. Hətta algoritmlər (o vaxt bu termin belə istifadə edilməsə də) ideal tanışlıq uyğunluqlarını seçməli idi.
Qüsurlar qaçılmaz idi və günahkarların üzərinə günahlandırmaq hər zamanki iş idi. Kompüter səhv etdi 1960-cı illərin ekvivalenti idi Emailiniz çöpə düşmüş olmalı Lakin tədricən problemin kompüterdə yox, səhv məlumatların daxil edilməsi və ya pis yazılmış proqramların istifadə edilməsi olduğunu başa düşdük.
Biz də süni intellektin agentləri haqqında danışarkən oxşar bir düzəliş etməliyik. Əgər kimsə "Astralyan tibbi statistikasını tap" kimi bir prospektə daxil olsa və nəticədə Medicare saytının pozulmasıdırsa, məsuliyyət bir kod parçası ilə bağlı deyil. Ya bu prospektə daxil olan insan, ya da kodun istehsal edən şirkət səhv edib və nəticədə zərərlər üçün məsuliyyət daşıyırlar. Əgər kimin günahkar olduğunu müəyyən etmək mümkün deyilsə, məsuliyyət birgə və bir neçə olmalıdır, yəni hər ikisi eyni itkinin tam məbləğinə məsuliyyət daşıyır və xərclər onların arasında bölüşdürülə bilər.
Agent proqram problemlərinin həll edilməsi asan olmayacaq. Erkən kompüter proqramlarının səhv işləməsinin tezliyi debugging (kompüterdə istifadəsinə əvvəlki termin) informasiya texnologiyalarının vacib bir hissəsi etdi. Əməliyyat sistemində, proqramda və ya daxil edilmiş məlumatlarda səhvlər ola bilər. Bir halda problem əsl bir böcək idi: relyelərdə tutulan bir palyaço. Ancaq problemin mənbəyi kifayət qədər qətiyyətlə tapıb həll edilə bilərdi.
Ənənəvi səhvlər agentlik proqramları ilə daha çətindir. Bu hadisədən sonra proqramın nələr etdiklərini öyrənmək mümkündür. Lakin böyük bir agent modelindəki yüz milyardlarla parametrləri yoxlamaq və agentin bunu niyə etdiyini anlamaq mümkün deyil.
Xülasə — davamını mənbədə oxuyun.
