Vprašljiva Amazonova tehnologija za prepoznavanje obraza

Jimmy Gomez, član predstavniškega doma ZDA, je v torek direktorju Amazona Jeffu ​​Bezosu poslal pismo, v katerem ga sprašuje, kako natančno podjetje načrtuje izvajanje enoletnega moratorija na prodajo tehnologije za prepoznavanje obraza policiji. Amazon je moratorij objavil v kratki objavi na svoji spletni strani pred enim tednom, je poročal VentureBeat.
 

Amazon še ni ustrezno obravnaval nevarnosti te tehnologije

Za Gomeza, ki je tudi podpredsednik odbora za nadzor in reforme, ki načrtuje uvedbo zakonodaje o prepoznavanju obraza, je odločitev Amazona v zvezi z vprašanjem varnosti dobra. Ga pa bega, ker je Amazon s to objavo sprožil več vprašanj kot odgovorov, saj je izjava dvoumna, je zapisal v pismu.

»Po dveh letih formalnih preiskav v kongresu, Amazon še ni ustrezno obravnaval vprašanja o nevarnostih, ki jih tehnologija prepoznavanja obraza lahko predstavlja za zasebnost in državljanske pravice, natančnosti tehnologije in morebitnega nesorazmernega vpliva na ne-bele skupnosti.«
 
Gomez v pismu niza vrsto vprašanj: ali se moratorij na prodajo tehnologije nanaša samo na lokalne organe pregona ali se nanaša tudi na zvezne pogodbe o kazenskem pregonu z ministrstvom za domovinsko varnost (DHS) in za ministrstvo za priseljevanje in carino (ICE). 

Zanima ga, kdaj namerava Amazon predložiti programsko opremo Rekognition v analizo Nacionalnemu inštitutu za standarde in tehnologijo (NIST). Slednji od Amazona v analizo oziroma pregled ni dobil nobenega programa ali algoritma.
 

Programi so pristranski

Analiza in revizija projekta Genders Shades v letu 2018, ki so jo izvedli na NIST je pokazala, da sistemi za prepoznavanje obraza na splošno najbolje delujejo na belih moških, najslabše pa na temnopoltih ženskah.  
 
To sicer ni prvo pismo, ki je bilo poslano Amazonu glede tehnologije za prepoznavanje obraza. Že leta 2018 je 20 kongresnikov pisalo tehološkemu velikanu, saj so izvedeli, da je tehnologija dvakrat verjetneje napačno identificirala člane kongresa manjšin in priseljencev - označila jih je za kriminalce - kot bele kongresnike.


 

Amazon, IBM in Microsoft odložili prodajo

VentureBeat je pisal tudi o tem, da so Amazon, IBM in Microsoft v različni meri ustavili prodajo tehnologije za prepoznavanje obraza. Gomez je v pogovoru za VentureBeat dejal, da bo odbor za nadzor in reforme uvedel uredbo za tehnologije za prepoznavanje obraza do konca leta.



Če bo vse po sreči, bo ta vključeval tudi moratorij na uporabo tehnologije s strani zveznih organov kazenskega pregona. Za slednje pa, tako Gomez, Kongres potrebuje več informacij o dejavnostih Amazona, da bi razumeli, kako urediti to tehnološko področje.
 
Amazon, ki je svetovni vodja na področju tehnologije in inovacij, ima s to tehnologijo prednost tudi v času protestov »Black Lives Matter«. Gomez pravi, da bi lahko tehnologijo izpopolnili do mere, da policiji ne bi prodajali pristranskih produktov, ampak da bi s tehnologijo odpravili sistemski rasizem v pravosodju.