Klinikçinin hökmü və süni intellektin çıxışı fərqlənəndə hər tərəfdən nə alınırsa, qərar ilə birlikdə yox olur, çünki mövcud interfeyslər nəticəni, qarşılıqlı əlaqəni yox, əhatə edir. Biz təklif edirik ki, klinik-İS qarşılıqlı əlaqənin öz hesabını tələb edir və fərqlərin necə görünürləşdirilə biləcəyini təsvir edirik. Divergensiyanın görünməsini təmin etmək şəffaf xəstəliyin ünsiyyətini dəstəkləyir, mənəvi məsuliyyəti daha yaxşı əsaslandırır, məsuliyyəti azaltır və klinik AI ən yüksək siqnal anı kimi divergensiyanı yenidən qurur.
Klinik süni intellekt sisteminin nəticəsi insan klinikasının hökmündən fərqlənəndə, aşağıdakı nəticələr nəticəli və az dəqiqləşdirilir. Hal-hazırda süni intellekt interfeysləri növbəti hadisələr üçün yalnız dar bir yol təklif edir: onlar süni intellektin çıxışı (və onunla əlaqəli potensial fərqlənmə) bir insanın qəbul etməsi, ləğv etməsi və ya dəyişdirməsi üçün qərar seçimi kimi təqdim edirlər. Praktiki olaraq, bu insan-Sİ qarşılıqlı əlaqənin tək bir çıxışa bölünməsi potensial bir fərq hadisəsində baş verənləri inadvertensiyalı şəkildə gizlədir (Şəkil. 1) iş axını və interfeysinin klinikaya nəyi görməyə və etməyə imkan verdiyi (quruq axı), hər tərəfdən qarşılıqlı əlaqəyə hansı məlumatlar gətirildiyi (informasiya axı) və klinikənin yalnız onun çıxışı (hissə axı) əvəzinə süni intellektin nəzəriyyəsi ilə necə məşğul olduğu (informasiya axı). Klinik hökm və süni intellektin çıxışı fərqlənəndə, kliniklər nə tövsiyə edəcəyini və tövsiyələrini xəstəyə necə izah edəcəyini nə vaxtsa qərar verməlidirlər, öz müstəqilliyini, məsuliyyət və məsuliyyətini nəzərə alacaqlar və mənəvi məsuliyyət daşıyacaqlar1. Xəstəlik və qardaşılıq sahəsində Sİ etikasının son sistematik bir araşdırması süni intellektin səhiyyə işçilərinin rolunu əvəz etməklə deyil, qayğı kimi sayılan fəaliyyətlərin incə yenidən qurulması ilə təhdid etdiyini və Sİ effektivliyinə vurğulanmanın qayğıların müəyyən əlaqəli aspektlərini daha az görünən və qiymətləndirən riskə atdığını göstərdi2. Çünki kliniklər tez-tez süni intellekt sisteminin öz çıxışı necə əldə etdiyini görə bilmirlər, onlar bu süni intellekt çıxışı və öz hökmləri arasında seçim etmək üçün buraxılırlar. Kliniklərə insanın döngədə olduğunu söyləyirlər, lakin ümumiyyətlə bunu etmək üçün hüquqlarını tətbiq etməkdən başqa heç bir üsul verilmir. Sİ-nin çıxışı həm texniki cəhətdən daha izah edilə bilən, həm də insan tərəfindən şərh edilə bilən birləşdirmək üçün səylər klinik qərarların yaxşılaşdırılması ilə birbaşa əlaqəli deyil və bəzən səhv Sİ-nin çıxışı ilə səhv etibar yaratır4.
Kliniklər hazırkı interfeysin təsvir etmədiyi nümunələrlə cavab verirlər. İnsan-İS dizayn seçimlərinə əsasən, kliniklərə öz görüşlərinin və ya İS-in çıxışı doğru olub-olmadığını qiymətləndirmələri lazım olan vəziyyətlər təqdim edilə bilər; insan və İS-in həm də siqnallarını inteqrasiya etdikləri yerlərdə; və ya sualsız İS-in çıxışı qəbul etdikləri yerlərdə (avtomatlaşdırma tərəqqi) və ya İS-i refleksiv şəkildə (avtomatlaşdırma baxımsızlığı) ləğv etdikləri yerlərdə. İnsan-Sİ qarşılıqlı əlaqəsi klinik Sİ-nin dəyərinin həyata keçirilə biləcəyi və ya yerinə yetirilmədiyi yerdir, kliniklərin Sİ-yə necə və necə cəlb edilməsində və ən nəticəsində hər tərəflərin çıxışı fərqlənəndə nəyə töhfə verdiyi. Birlikdə bu insan-Sİ qarşılıqlı əlaqələr nə modelin, nə də yalnız klinikənin təmin edə biləcəyi bir qeyd tələb edir: qarşılıqlı əlaqənin özü haqqında bir qeyd. Biz buna insan-Sİ divergensiyası görünməsini adlandırırıq.
Kliniklər və süni intellekt birləşdikdə insan-süni intellekt qarşılıqlı əlaqəsi sakitdir və əsasən görünməz olaraq qalır. Müqayisə hadisəsi (vəsaitləri fərqlənəndə) insan-Sİ qarşılıqlı əlaqənin ən yüksək siqnal anıdır: hər tərəfin unikal şəkildə nəyin paylaşacağını görən, araşdırıla bilən və öyrənilə bilən nöqtədir. Müxtəliflik bir dəlildə iki hökm arasında anlaşmazlıq kimi səhv olaraq təsvir edilir; lakin klinik praktikada bu insan-Sİ qarşılıqlı əlaqəsi daha nüanslıdır (Şəkil. 1) Klinik bir dinamik yatak yanında gestalt gətirir, bu barədə birbaşa xəstənin müayinəsi, ailə ünsiyyəti və prosedur mühitlərində süni intellekt sistemlərinin hələ asanlıqla əldə edə bilmədiyi haptik, vizual və anatomik variantlar məlumatlandırılır. Əksinə, süni intellekt modeli elektron səhiyyə qeydlərindən (yarı-quruqlaşdırılmış) məlumatları emal edir və minlərlə və ya milyonlarla əvvəlki hallardan və ya xarici verilənlər bazasından alınan nümunə məlumatlarını daşıyır. Bu insan-Sİ qarşılıqlı əlaqənin hər tərəfi müxtəlif girişlər gətirir və fərqli nəticələrə çıxara bilər. Son empirik işlər bunu təsdiq edir: insan və süni intellekt qiymətləndiriciləri eyni klinik materialda sistematik olaraq proqnozlaşdırıla bilən yollarla fərqlənirlər5.
İstehsal nəticələri insan və süni intellekt arasında fərqlənəndə, fərq bir neçə əsas səbəbləri əks etdirə bilər: hər tərəf əldə edə biləcəyi məlumatlarda asimetri, paylaşılan sübutlar üzərində həqiqi anlaşmazlıq və ya bir tərəfdən həqiqi səhv. Buna görə də biz fikir ayrılığı deyil, fərq sözünü məqsədəuyğun şəkildə istifadə edirik (Şəkil. 1) Bu vacib bir praktik fərqdir: bir klinik və süni intellekt vasitəsi dar mənada razılaşmadıqda, instinktiv bir vasitə ikinci insan fikri ola bilər. Lakin, fərq asimetrik məlumatlardan irəli gələn hallarda üçüncü rəy ən yaxşı həll deyil, çünki bu, əsas səbəbi həll etmir6,7. Yalnız kim haqlı idi soruşmaq, fərqi düzəltmək üçün bir səhvə çevirir, insan və süni intellektin nə üçün ayrıldığını anlamaq üçün daha dərin bir fürsət qaçırır.
İnsan və süni intellektin hökmlərinin niyə fərqləndiyini görmək qabiliyyəti klinik mühitlərdə real vaxtda qərar qəbul etmə və xəstənin təhlükəsizliyinə risklər yaratmaq ehtiyacından ötrü genişlənir. Bu, bəzi hallarda süni intellekt sistemlərinin tənqidi qiymətləndirilməsi və ya çətinləşdirilməsi üçün kifayət qədər səlahiyyət, şəffaflıq və/və ya təlim olmamasında klinik qərarlar üçün peşəkar məsuliyyətin üç qat bağlanması ilə birləşir2. Əsas səhiyyə sahəsində əsas tədqiqatlara əsaslanan klinik qərarların dəstəkləmə vasitəsi olan böyük bir dil modelinə aid olan bir araşdırmada kliniklərin zərərli sistem tövsiyələrinin 58%-ni, ancaq faydalı olanların yalnız 22%-ni asimetrik olaraq qəbul etdiyini aşkar edilmişdir. Bundan əlavə, hətta süni intellektlə yazılılıq da qoruyuculuq deyil: süni intellektin çıxışlarını qiymətləndirmək üçün rəsmi olaraq təlim almış həkimlərdə böyük dil modellərinə müraciət etmək imkanı əldə edildikdə diaqnoz dəqiqliyi 14% azalıb9. Standart cavab
Xülasə — davamını mənbədə oxuyun.
