Policija je uhitila muškarca zbog provale u gradu u kojem nikada nije bio, nakon što ga je softver za prepoznavanje lica zamijenio s drugim muškarcem južnoazijskog podrijetla. Alvi Choudhury (26), softverski inženjer iz Southamptona, radio je u obiteljskoj kući u siječnju kada su mu na vrata pokucali policajci, stavili mu lisice i zadržali ga gotovo deset sati. Pušten je tek oko 2 sata ujutro, prenosi Guardian.
Policija doline Temze koristila je automatizirani sustav prepoznavanja lica koji ga je povezao sa snimkom osumnjičenika za provalu vrijednu oko 3.000 funti u Milton Keynesu, stotinjak milja dalje. No, prema Choudhuryju, snimka s nadzorne kamere prikazivala je znatno mlađeg muškarca drukčijih crta lica – osim slične kovrčave kose. - Bio sam jako ljut jer je taj dečko izgledao barem deset godina mlađe od mene. Sve je bilo drukčije – svjetlija koža, veći nos, nije imao bradu. Oči i usne bile su drugačije - rekao je Choudhury, koji nosi bradu. Smatra da je presudilo to što je „osoba tamnije puti s kovrčavom kosom“.
Britanske policijske snage koriste algoritam njemačke tvrtke Cognitec, nabavljen preko Ministarstva unutarnjih poslova. Sustav mjesečno provodi oko 25.000 pretraga među približno 19 milijuna fotografija u nacionalnoj policijskoj bazi. Prema smjernicama, podudaranja bi se trebala tretirati kao indicija, a ne kao dokaz. Policija je navela da je odluka o uhićenju donesena i nakon vizualne procjene službenika. Međutim, istraživanje naručeno od ministarstva pokazalo je da sustav u određenim postavkama ima znatno višu stopu pogrešnih podudaranja za crna i azijska lica nego za bijela. Povjerenici za policiju upozorili su na „zabrinjavajuću ugrađenu pristranost“.
Choudhury sada traži odštetu od policije doline Temze i policije Hampshirea, koja je provela uhićenje. Susjedi su ga vidjeli s lisicama, otac mu je bio iznimno uznemiren, a dan poslije nije mogao raditi. Traži i veću transparentnost o broju pogrešnih uhićenja povezanih s ovom tehnologijom. Njegova fotografija u policijskom sustavu postoji jer je 2021. bio pogrešno uhićen nakon što je napadnut tijekom izlaska u Portsmouthu. Slučaj je tada odbačen. Sada strahuje da bi novi algoritamski „pogodak“ mogao dovesti do novih neosnovanih uhićenja.
Policija je priznala da je uhićenje „možda bilo posljedica pristranosti tehnologije“, ali poručila da je postupanje bilo zakonito i da nije bilo rasnog profiliranja. Stručnjaci i pravnici ponovno upozoravaju da se umjetna inteligencija ne smije koristiti kao zamjena za ljudsku procjenu, već isključivo kao pomoćni alat, uz strogu kontrolu i transparentnost. Ministarstvo unutarnjih poslova najavilo je reviziju smjernica i razvoj novog, poboljšanog sustava za prepoznavanje lica.