Avqustun əvvəlində kriptoqrafiya professoru Metyu Qrin X-də mübahisəli mövzu və kibertəhlükəsizlik cəmiyyətində viral olan daha uzun bir blog yazısı yazdı. Uzun müddətdir ki, hökumətlər tərəfindən cinayətlə mübarizə üçün haker alətlərindən istifadə və günahsız insanların məxfiliyini qorumaq üçün güclü şifrələmə ehtiyacı ətrafında müzakirələrin yaxından müşahidəçisi olan Qrin təxribatçı bir fikir irəli sürdü: Süni intellekt səhvləri o qədər az edirsə ki, hüquq-mühafizə orqanları və kəşfiyyat orqanları daha qanuni olaraq cinayətkarları sındıra bilmirsə? Hüquq-mühafizə orqanları uzun müddətdir ki, şifrələmənin cinayətkarları və terrorçuları tutmağı çətinləşdirdiyini iddia edir.
“Qaranlıq” anlayışı 2014-cü ildə FTB-nin o vaxtkı direktoru Ceyms Kominin şifrələmənin səlahiyyətlilərə söhbətləri dinləmək və ya cihazlardakı məlumatlara daxil olmaq imkanlarına mane ola biləcəyi barədə xəbərdarlıq etdiyi bir vaxtda populyarlaşdı. Təxminən bu vaxtlarda Signal, WhatsApp və Apple-ın iMessage kimi proqramlar, zənglərin və mətn mesajlarının ənənəvi real vaxt rejimində dinlənilməsini demək olar ki, qeyri-mümkün etdi. Apple kimi texnologiya nəhəngləri də öz cihazlarında standart olaraq şifrələnmiş məlumatları yaratmağa başladılar, bu da güclü PIN kodu və ya parol ilə qorunan iPhone-lara daxil olmağı çətinləşdirdi.
O vaxtdan bəri səlahiyyətlilər hələ də cinayətkarları tuta bildilər, o cümlədən onların cihazlarına müdaxilə etməklə - və günahsız insanlar şifrələmə sayəsində yaxşı səviyyədə məxfilikdən həzz ala bildilər. Qrin izah etdiyi kimi, bunun səbəbi "narahat bir atəşkəs növü"dür. Yəni, hakimiyyət orqanlarına məlumatları əldə etməyə kömək etmək üçün cihazlara arxa qapılar daxil etmək əvəzinə, hökumətlər cihazların və onların sahiblərinin təhlükəsizliyini poza biləcək haker alətləri və casus proqramların alınmasına pul yatırıblar. Qrin üçün, bu barışıq süni intellekt tərəfindən pozulmaq üzrədir, çünki tərəfdarların vəd etdiyi və bəzi ilkin məlumatların təklif etdiyi kimi, LLM-lər miqyasda təhlükəsizlik zəifliklərini tapmaqda daha yaxşı və daha sürətli olurlar.
Bu, nəzəri olaraq, şirkətlərin proqram təminatı və sistemlərini əhəmiyyətli dərəcədə daha az səhvlərə məruz qoyacaq və hücumlara meylli edə biləcəyi bir nöqtəyə çatacağımızı göstərir. Green-ə görə, son nəticə odur ki, hökumətlər yenidən arxa qapılar tələb edə bilər və hər kəsin cihazlarını dizayn baxımından daha az təhlükəsiz edir. Məxfilik və kibertəhlükəsizlik üzrə ekspertlərdən tutmuş hökumətlər üçün haker alətləri hazırlamaq təcrübəsi olan hakerlərə qədər bir neçə nəfərdən Qrin arqumentinə qoşulmalarını xahiş etdik.
Bəziləri Qrinlə razılaşır, bəziləri razı deyil, bəziləri isə hər iki şəkildə görür. Əvvəllər səhvlər axtaran və hökumətlərin sistemlərə daxil olmasına kömək etmək üçün istismarlar hazırlayan iki məşhur şirkətdə işləyən tədqiqatçı Luna Tonq Qrinlə razılaşaraq dedi ki, “hazırda səhvlərin qızıl tələsik var, lakin bu müvəqqəti bir fenomendir və səhvlər tezliklə yenidən qıtlaşacaq.” Hücum edən təhlükəsizlik firmalarında on ildən çox iş təcrübəsi olan başqa bir tədqiqatçı, AI-nin insan təhlükəsizliyi tədqiqatçılarını köhnəlməsindən narahat olduğunu, çünki səhvləri tapmaq daha çətin olacağından və müdafiəçilərin nəticədə hücumçu tədqiqatçılardan üstün olacağından narahat olduğunu söylədi. Həmin şəxs daha sərbəst danışa bilmələri üçün adının çəkilməməsini xahiş edib.
Stagno izah etdi ki, hökumətlərdən cihazlara daxil olmaq üçün təhlükəsizlik qüsurlarından istifadə etməyi tələb edən hazırkı proses "bizdə mövcud olan ən demokratik sistemdir", lakin səhvləri tapmaq çox çətin olarsa, status-kvo davam edə bilməz. Hal-hazırda hücum edən kibertəhlükəsizlik sənayesində çalışan digər üç nəfər və əvvəllər işləyən biri bununla razılaşmadı. Onların arqumentləri belədir: Asan səhvləri tapmaq daha asan olacaq; hökumətlər üçün ümumiyyətlə daha dəyərli və faydalı olan daha mürəkkəb səhvlər aradan qalxmayacaq; və AI hökumət orqanlarına səhv satan tədqiqatçılara fəal kömək edə bilər.
Xülasə — davamını mənbədə oxuyun.
