Jednog dana, ne tako daleko, sudjelovanje na koncertu, dizanje transparente na prosvjedu ili odlazak na stadion moglo bi uz pomoć umjetne inteligencije postati prilika za masovni nadzor i kolektivnu identifikaciju od strane vlade na vlasti. To je put kojim je krenula Europa s tehnologijama prepoznavanja lica, koje sve više zemalja uvodi. Italija prednjači. Španjolska još nema poseban zakon o tome. No prije dvije godine, u kolovozu 2024., stupio je na snagu AI Act, prvi svjetski regulatorni okvir za umjetnu inteligenciju: europska uredba koja sustave umjetne inteligencije razvrstava po razinama rizika, s postupnom primjenom. Što se tiče policijske biometrijske identifikacije, uredba teorijski predviđa opću zabranu, ali uvodi iznimke, terorizam, nestale osobe, „teška“ kaznena djela i ostavlja svakoj državi širok prostor da sama razradi konkretni postupak.
Tu je problem, u Italiji, koja je tu normu već provela, polemika je ogromna. Vlada Giorgije Meloni konačno je, nakon razmjene nacrta s parlamentom, odobrila uredbu kojom se talijanski zakon usklađuje s europskim Zakonom o umjetnoj inteligenciji, iako tekst još nije objavljen u Službenom listu (sadržaj se zna samo iz vladine bilješke). Italija tako postaje prva zemlja EU-a s detaljnim pravnim okvirom za iznimke koje Zakon ostavlja otvorenima za policijsku uporabu prepoznavanja lica. U Španjolskoj je u Kongresu organski zakon o dobroj uporabi i upravljanju AI-jem, s otvorenim rokom za amandmane, piše El Pais.
Talijanska uredba razlikuje dvije uporabe. Identifikaciju u stvarnom vremenu, rezerviranu za ozbiljne prijetnje poput terorizma ili potrage za nestalima, uz odobrenje tužitelja i naknadnu identifikaciju, koja se aktivira tek nakon počinjenog kaznenog djela, radi prepoznavanja već označenih osumnjičenika. U odnosu na prvi nacrt, najvažnija izmjena odnosi se na događaje s 'potrebama javnog reda', trgove, stadione, prosvjede. Policija smije snimati i čuvati te slike, ali se prepoznavanje lica više ne pali automatski na sve nazočne, nego samo ako se dogodi kazneno djelo, uz sudsko odobrenje u roku od 24 sata. Podaci bi se brisali nakon sedam dana ako se ništa nije dogodilo.
Organizacije za građanska prava su na nogama, iako su pesimistične da se lavina može zaustaviti. Diletta Huyskes, sociologinja sa Sveučilišta u Milanu i osnivačica udruge Immanence kazala je: "Nema što učiniti, polazeći od toga da europski regulatori na ovaj ili onaj način dopuštaju vladama da ovako postupaju. Moje je stajalište potpuno protiv predloženih uporaba, ali smo pred trendom koji se gradi godinama".
Prema vladinoj bilješci (dok nema konačnog teksta), vlada je kozmetički dotaknula neke tehničke točke, uvjete baze podataka, postupak brisanja, ovlasti jamca privatnosti, ali ne i najspornije. I dalje je dopušteno naknadno prepoznavanje na javnim mjestima, nisu ojačana sudska odobrenja za stvarno vrijeme, niti se zahtijeva obavještavanje građana kada je sustav aktivan.
"Uvođenje te tehnologije stvara infrastrukturu sveprisutnog nadzora. Čak i uz promjenu vlade lako se može koristiti u autoritarne svrhe", kritizira Huyskes.
Novinar i stručnjak za biometrijski nadzor Fabio Chiusi slaže se i ide dalje. "Postoje stranke još ekstremnije od onih na vlasti, poput one generala Roberta Vannaccija, koji traži dronove s termovizijom radi sigurnosti. Je li moguće vjerovati da institucije vođene tim nagonima mogu poštovati uvjete koje nameće Zakon o UI? Koliko dugo?". "Prije nekoliko godina, misao o gradovima pod tisućama stalno otvorenih tehnoloških očiju asocirala nas je na kineski režim, danas pogađa i najnaprednije demokracije. Taj se trend ne zaustavlja točkastim amandmanima, nego apsolutnim zabranama", dodao je.
Huyskes smatra problematičnima i neprozirnost kriterija treniranja te postupaka brisanja slika. "Otežavaju demokratski nadzor i zaštitu temeljnih prava", kaže.
Novinarka Laura Carrer, istražiteljica Centra za hakiranje ljudskih prava Hermes, slaže se. "Normalizira se nadzor koji prije nije postojao. Povezali smo ga s uvjetom da postoji kazneno djelo da bi se koristio, ali u međuvremenu ostaje zabilježen", kaže. Žali zbog nedostatka vanjske kontrole. "Jedini stup koji ostaje jest sudski nadzor, iako aktivaciju može odobriti tužitelj, a ne sudac. Tužitelj vodi istragu i vjerojatnije je da će odobriti", kaže. Na toj točki inzistira Aljoša Ajanović Anđelić iz EDRi-ja (European Digital Rights). "Tijelo koje odobrava trebalo bi ocjenjivati nužnost i razmjernost. Važno je pitanje ocjenjuje li vlast doista nužnost baš tog rasporeda, ili rutinski potvrđuje već donesen policijski potez", dodaje.
Ajanović smatra da talijanski zakon „ispituje granicu između prepoznavanja lica u stvarnom vremenu i naknadnog“, s implikacijama širim od Italije. "Ako se kontinuirano snimaju i pohranjuju biometrijski podaci svih koji prolaze javnim prostorom, pa se tek onda odlučuje koga identificirati, je li to doista naknadni sustav ili način da se tehnički drugačijim slijedom postigne gotovo isti učinak nadzora? Ako se ti podaci poslije koriste za kriminalizaciju sudionika prosvjeda, de facto se ponaša kao sustav u stvarnom vremenu", dodaje.
Stručnjak navodi primjer Mađarske, koja je „također izuzela brzo prepoznavanje lica iz kategorije ‘stvarnog vremena’ koristeći nepokretne slike umjesto izravnog prijenosa, pa zatim prijetila da će time identificirati i kazniti one koji dođu na Pride u Budimpešti [koji je vlada ultradesničara Viktora Orbána zabranila]. Prema našoj analizi, mađarski je sustav u stvarnom vremenu jer može utjecati na ponašanje tijekom prosvjeda, pa krši AI Act.“ EDRi se boji da će se nacionalni zakoni „koristiti za zaobilaženje zabrana i širenje biometrijskih sustava masovnog nadzora“. je jer je načelno revizibilno, „ali problem je isti kao u migracijama: neprozirnost i tajnost čine ga neprovjerljivim“.
Za migrante i tražitelje azila odvraćajući učinak „može biti osobito jak jer im je odnos s vlastima već nesigurniji“. "Migrant može imati biometrijske podatke u bazi iz razloga koji nemaju veze s kriminalom. Ako policija može ući u te baze, posljedice pogrešnog podudaranja mnogo su teže. S novom europskom Uredbom o deportaciji države će morati registrirati osobe bez dokumenata, pa bi ta interoperabilnost mogla nastupiti gotovo automatski", kaže.
Po Ajanoviću, Španjolska ima sve opcije otvorene: može preslikati talijanske uporabe ili „usvojiti strože norme i zabraniti, primjerice, naknadnu biometrijsku identifikaciju“.