Avstraliya hökumətinin sorğu prosesi həm ekspertləri, həm də seçiciləri dinləməklə parlamentin daha yaxşı qərarlar qəbul etməsinə kömək etməlidir. Lakin Guardian Australia, sistemin süni intellekt tərəfindən yaradılan materialla dolu olduğunu aşkar edə bilər ki, bu da tədqiqatlar icad edir və mövcud olmayan tədqiqatları həqiqi akademiklərə və müəlliflərə aid edir. Bəzi hallarda, komitə hesabatlarında böyük dil modellərinin (LLM) real görünən, lakin əslində mövcud olmayan məzmunu icad etdiyi zaman mənbələrin əksəriyyətinin süni intellekt tərəfindən yaradılan “halüsinasiyalar” kimi göründüyü təqdimatlara istinad edilir.
Avstraliya Milli Universitetinin tənzimləmə və qlobal idarəetmə məktəbinin professoru Kristian Dauni deyir ki, bu fenomen davam edərsə, parlamentarilərin “mövcud olmayan dəlillərə əsaslanaraq qərarlar qəbul etmələri” riski var. Vəziyyəti Google axtarışı da daxil olmaqla AI xidmətləri daha çaşdırıcı edir. Əvvəllər icad edilmiş arayışı axtarmaq, istinadın mövcud olmadığını göstərən nəticələr verə bilər.
İndi Google-un süni intellekt xülasəsi bəzən saxta istinadın orijinal olduğu kimi xülasəsini yaradacaq. Bəzi hallarda, Google-un süni intellekt xülasəsi və ChatGPT də mənbə kimi saxta arayışla sorğu təqdimini göstərərək, davam edən dezinformasiya dövrü yaradacaq. Ailədaxili zorakılıq və intiharla bağlı sorğuya təqdim edilən sənədlərdən birində Kvinslend Universitetinin dosenti və klinik psixoloqu Divna Haslam-a aid hallüsinasiyalı bir arayış var və onun komandasının araşdırma nəticələrini təhrif edib.
Uşaq və ailənin çətinliklərini və pis rəftarını araşdıran Haslam deyir ki, istinad “qorxulu” idi, çünki o qədər real görünürdü ki, üzdəniraq nəzər salan kimsə inandıra bilərdi. Google-un süni intellekt xülasəsi istinadı sanki real bir kağız kimi ümumiləşdirdi. Heç bir şeyə uyğun gəlməyən istinadların yüksək nisbətinə malik olduğu qeyd edilən sənədlər daha sonra əl ilə yoxlanıldı.
Bu üsullardan istifadə edərək, Guardian, hallüsinasiya edilmiş istinadlar kimi görünən siyasi sorğulara ən azı 39 təqdimat tapdı. Bu tapıntılar siyasi proseslərdə süni intellekt tərəfindən yaradılan materialın miqdarının mühafizəkar təxminini əks etdirir, çünki o, yalnız yanlış sitatlar olan təqdimatları müəyyən edir. Bu yanaşma, məsələn, heç bir istinad olmadan mətn yaratmaq üçün AI-dən istifadə edən sənədləri tapa bilməz.
LLM-lərin nə qədər tez-tez istifadə olunduğunun başqa bir göstəricisində, 100-dən çox sənəddə platforma tərəfindən avtomatik olaraq nəticələrinə əlavə edilən istinad bağlantılarına ChatGPT url etiketləri daxil edilmişdir. Süni intellekt tərəfindən yaradılan materialdan ibarət təqdimatlar az sayda səhv sitat olan sənədlərdən tutmuş, istinad edilən hər bir istinadın mövcud olmadığı təqdimatlara qədərdir. Onların müəllifi siyasi spektrdə olan şəxslər və təşkilatlar idi.
Xülasə — davamını mənbədə oxuyun.
