Süni intellekt (SI) texnologiyası son illərdə hüquq-mühafizə və məhkəmə sistemində geniş istifadə edilməyə başlanıb. Bu texnologiyanın ədalət və effektivliyi artıracağına dair ümidlər olsa da, onun mövcud qərəzləri gücləndirə biləcəyinə dair ciddi narahatlıqlar da mövcuddur. Ekspertlər, SI-nin təhlükəsiz və etik şəkildə tətbiq edilməsi üçün standartların və nəzarət mexanizmlərinin yaradılmasının vacibliyini vurğulayırlar.

Hazırda SI bir çox sahədə istifadə olunur: şübhəlilərin müəyyən edilməsi üçün üz tanıma sistemlərində, patrul marşrutlarının planlaşdırılması üçün "proqnozlaşdırıcı polis" strategiyalarında, məhkəmə zallarında işlərin idarə edilməsi üçün, və ictimai müdafiəçilər tərəfindən sübutları analiz etmək üçün. SI-nin effektivliyi artırdığı iddia olunsa da, məxfilik və hesabatlılıq məsələləri ciddi müzakirə mövzusudur.

Bu məqsədlə, keçən ay Cinayət Ədaləti Şurası süni intellektin hüquq-mühafizə sistemində təhlükəsiz və etik istifadəsini araşdırmaq üçün qeyri-partizan bir işçi qrup yaratdı. RAND tədqiqatçıları tərəfindən dəstəklənən bu qrup, gələcəkdə siyasətçilər və hüquq-mühafizə orqanlarına tövsiyələr təqdim edəcək. İşçi qrupunun sədri və Texas Ali Məhkəməsinin keçmiş baş hakimi Nathan Hecht, SI-nin ədalətsiz nəticələr verə biləcəyini qeyd edərək, texnologiyanı sistemin yaxşılaşdırılması üçün istifadə etməyin yollarını araşdırmağın vacib olduğunu vurğulayıb.

SI-nin hüquq-mühafizə sistemindəki riskləri Bir çox məhkəmə və polis şöbəsi artıq SI-dən istifadə edir. Lakin bu texnologiyanın tətbiqi standartlardan məhrum olduğu üçün vətəndaş hüquqlarını müdafiə edən təşkilatlar narahatdır. Məsələn, Clearview kimi şirkətlər internetdən toplanmış milyardlarla görüntü bazasına əsaslanan üz tanıma texnologiyasını satır. Bu texnologiyada qara dərili insanların üzləri daha çox təmsil olunur, çünki onlar daha çox polis nəzarətində olan icmalarda yaşayırlar. Üstəlik, SI qara dərili insanların üzlərini digər irqlərə nisbətən daha az dəqiqliklə tanıyır ki, bu da daha yüksək yanlış tanıma hallarına səbəb olur.

Keçən il, Hüquqsuzluq Proyektinin araşdırmasına görə, üz tanıma texnologiyası ilə ən azı yeddi yanlış həbs qeydə alınıb, bunlardan altısı qara dərili insanların yanlış ittiham olunması ilə nəticələnib. Təşkilatın siyasət direktoru Walter Katz, polisin bəzən yalnız SI-nin üz tanıma nəticələrinə əsaslanaraq həbslər həyata keçirdiyini, halbuki SI yalnız daha geniş araşdırma üçün başlanğıc nöqtəsi olmalı olduğunu qeyd edib.

Katz, keçən il bir polis konfransında iştirak edərkən "SI hər yerdə idi" deyərək, texnologiya şirkətlərinin polis şöbələrindəki real problemləri həll edəcəklərini iddia edən alətləri aqressiv şəkildə təqdim etdiyini bildirib. Lakin bu təqdimatlarda risklərə və potensial problemlərə kifayət qədər diqqət yetirilməyib. Məsələn, tənqidçilər bu texnologiyaların ictimai məkanlarda nəzarəti artıracağına, o cümlədən dinc etirazçıların izlənməsi və "proqnozlaşdırıcı polis" strategiyalarının artıq çox nəzarət olunan bölgələrdə polis müdaxiləsini gücləndirəcəyinə dair narahatlıqlarını dilə gətirirlər.

SI-nin hüquq-mühafizə sistemindəki potensialı Buna baxmayaraq, Katz SI-nin hüquq-mühafizə sistemində faydalı ola biləcəyini qəbul edir. "SI-nin tətbiqindən tamamilə imtina etmək çətin olacaq—və müəyyən sahələrdə SI faydalı ola bilər" deyir. Bu səbəbdən o, Cinayət Ədaləti Şurasının işçi qrupuna qoşulub. Onun fikrincə, SI-nin sürətlə yayılmasını izləmək və heç bir siyasətin olmamasının yanlış yanaşma olduğunu qəbul etmək vacibdir.

Hecht, SI-nin məhkəmə zallarında faydalı ola biləcəyi bir neçə sahəni qeyd edir, məsələn, həbs olunan şəxslərin qəbul prosesini yaxşılaşdırmaq və məhkəmə qərarlarından yayınma proqramlarına uyğun olan şəxsləri müəyyən etmək. O, həmçinin işçi qrupunun SI-nin hansı növ istifadəsinin məhkəmə sistemində qadağan edilməli olduğunu və ictimaiyyətin məxfiliyinin qorunması üçün hansı addımların atılmalı olduğunu araşdıracağını ümid edir. "Biz SI-nin məhsulundan istifadə edənləri və ictimaiyyəti bu texnologiyanın təcrübənizi daha yaxşı edəcəyinə və bundan sonra sizə müdaxilə etməyəcəyinə dair əmin etmək istəyirik" deyə o bildirib.

Digər müstəqil təşəbbüslər də SI-ni ədalət sistemini yaxşılaşdırmaq üçün istifadə etməyə çalışır. JusticeText adlı startap, prokurorlar və ictimai müdafiəçilər arasındakı resurs fərqini daraltmaq məqsədilə bir alət hazırlayıb. Bu alət, saatlarla davam edən 911 zəngləri, polis kameralarının görüntüləri və yazılı sorğuları analiz edərək, məsələn, polisin uyğunsuz ifadələr verdiyini və ya yönəldici suallar verdiyini müəyyən edir. JusticeText hazırda ABŞ-da təxminən 75 ictimai müdafiəçi agentliyi ilə əməkdaşlıq edir.

Recidiviz adlı cinayət ədaləti islahatı qeyri-kommersiya təşkilatı da SI-ni iş axınlarına inteqrasiya etmək üçün bir neçə üsulu sınaqdan keçirir. Məsələn, şərti azadlıq nəzarətçilərinə müştərilərin SI tərəfindən yaradılan xülasələrini təqdim edir. "Bu şəxslə bağlı yeddi il ərzində yazılmış 80 səhifəlik qeydləri oxumaq ehtimalınız yoxdur, əgər aylıq 150 nəfərlik iş yükünüz varsa. SI bu şəxsin artıq əldə etdiyi nailiyyətləri və hansı sahələrdə dəstəyə ehtiyac duyduğunu qısa şəkildə təqdim edə bilər" deyir Recidiviz-in həmtəsisçisi Andrew Warren.

Politikalar və Cinayət Ədaləti Şurasının işçi qrupunun qarşısında duran əsas çağırış, SI-nin effektivlik artımından doğan müsbət nəticələrin mövcud qərəzləri gücləndirmə riskini aşması üçün standartlar və nəzarət mexanizmləri hazırlamaqdır. İşçi qrupunun sədri Hecht, gələcəkdə qapalı qutulu SI-nin həyat dəyişdirici qərarları müstəqil şəkildə verməsinin qarşısını almağı ümid edir.

"Ənənəvi insan ədaləti ideyalarının qorunmasını təmin etməliyikmi? Əlbəttə. Hüquq-mühafizə sisteminin bacarıqlı hakimləri və idarəçilərinin tam nəzarətdə olmasını təmin etməliyikmi? Əlbəttə. Amma SI-ni ədalət sistemindən kənarda saxlamağa çalışmaq ümidverici deyil. Hüquq firmaları artıq ondan istifadə edir. Mülki ədalət sistemi istifadə edir. Bu texnologiya artıq bizimlədir" deyə o vurğulayıb.