Ko vas na zaporno kazen obsodi ...algoritem

Računalniški algoritmi so vseprisotni. Predlagajo nam glasbo, filme, izdelke. V pomoč, predvsem v ZDA, so tudi sodstvu – predvidevajo, kdaj in kje se bo zgodil zločin, poleg tega obstajajo programi, ki namesto sodnikov odločajo o priporu in celo o višini kazenske sankcije. To je na eni od tehnoloških konferenc v ZDA lani potrdil ameriški vrhovni sodnik John Roberts. Ko so ga vprašali, kdaj bodo pametni stroji v službi sodišč, je odvrnil: »Ta dan je že tukaj in vpliva na delo kazenskopravnega sistema.«

V mislih je imel odmeven primer Erica Loomisa, ki si je na priporočilo umetne inteligence (algoritma) v Wisconsinu prislužil šest let zapora. Za Loomisa, ki ima kriminalno kartoteko in je v ukradenem avtu bežal pred policijo, je kazen predlagal sistem Compas, ki ga je zasnovalo zasebno podjetje Nortpointe Inc. Sodniki so oceno, da je Loomis »nevaren, da pomeni grožnjo in da je nagnjen k ponavljanju kaznivih dejanj«, upoštevali. V svoj zagovor so dejali še, da bi si takšno kazen prislužil v vsakem primeru. V ZDA uporabljajo tudi sistem Valcri, ki v nekaj sekundah pregleda sporočila, poročila in policijske dokumente in izlušči področja, ki bi jih bilo treba podrobneje raziskati.

Stalna praska..

Da so algoritmi v službi sodstva, so ameriški mediji začeli pogosteje opozarjati poleti 2016. »Skrivni algoritem, ki napoveduje prihodnost kriminalca v Wisconsinu, dobil zeleno luč«, »V uporabi algoritem, ki je pristranski do črncev«, »Sodniki sodijo na podlagi algoritmov«, »Ko te algoritem pomaga poslati v zapor«, so se vrstili pompozni naslovi.



Vendar to ni novost. V ZDA sisteme za oceno uporabljajo že od dvajsetih let prejšnjega stoletja, v šestdesetih in sedemdesetih pa so izdelali prve študije programov, ki pomagajo človeka razvrstiti kot nevarnega ali ne. Takratni sistemi so imeli veliko pomanjkljivosti, v članku Algoritmi v sodstvu priznavajo znanstveniki z univerze Harvard. Prva država, ki je že leta 1994 »zaposlila« program, ki je sodnikom pomagal določati kazni, je bila zvezna država Virginija. Danes namesto sodnikov o priporu in pogojnem odpustu iz zapora odločajo računalniški sistemi v najmanj desetih zveznih državah in več kot tristo jurisdikcijah. Podobno je v Kanadi in Veliki Britaniji.

Podobno kot v ZDA naj bi umetna inteligenca tudi na Otoku podala oceno, ali naj oseba ostane v priporu ali na sojenje čaka na prostosti. Program Hart (Harm Assessment Risk Tool) klasificira posameznike glede na nizko, srednjo in visoko stopnjo verjetnosti ponovitve kaznivega dejanja. Policija se je za testiranje odločila v primerih, ko se ne more zanesti le na človeški dejavnik. Program so nahranili s podatki durhamske policije iz obdobja 2008–2013. Vanj so vnesli podatke o osumljenčevi kriminalni preteklosti, resnosti dejanja in begosumnosti. Testi, ki so jih izvajali leta 2013, pri čemer so dve leti spremljali osumljenčevo vedenje, so pokazali, da je Hart pravilno odločitev pri majhnem tveganju sprejel v 98, pri velikem tveganju pa v 88 odstotkih.


Več o tem preberite TU.