Večernji List - najnovije vijesti iz Hrvatske, svijeta, sporta, showbiza i lifestyle
Naslovnica Vijesti Hrvatska

Bez masovnog nadzora: Ograničava se korištenje umjetne inteligencije

Kamere u masama samo radi sigurnosti, kirurgija na daljinu pod nadzor, a pod upitnikom samovozeći auti
15. travnja 2021. u 23:16 2 komentara 1111 prikaza
Symbolic photo surveillance
Foto: Christoph Hardt/DPA/PIXSELL
Pogledajte galeriju 1/3

Sustavi umjetne inteligencije (AI) koji se koriste za neselektivni masovni nadzor bit će zabranjeni, osim u iznimnim slučajevima kad to zahtijeva sigurnost. Zabranit će se i AI sustavi za “društveno ocjenjivanje” (social scoring), koji se koriste sve više kako bi se vrednovalo ponašanje pojedinca u društvu. Sve vrste umjetne inteligencije koje su označene kao visoko rizične, u što ulaze i samovozeći automobili i kirurške operacije na daljinu, morat će proći posebnu inspekciju prije primjene i morat će se provoditi pod ljudskim nadzorom. Tvrtke koje se ogluše i krše nove propise bit će kažnjene i morat će platiti do četiri posto svoje zarade na globalnom tržištu.

KAMERE Snimanje iz automobila u Hrvatskoj nije ilegalno, ali ipak ima ograničenja

EU tako novim propisima želi regulirati korištenje umjetne inteligencije te zabraniti svaku upotrebu koja izlazi iz okvira ili se kosi s osnovnim principima i vrijednostima Unije.

Zadiranje u privatnost

Ove odredbe nalaze se nacrtu prijedloga o korištenju umjetne inteligencije, koji je još podložan promjenama do sljedećeg tjedna, kad će se očekuje da će ga službeno predstaviti Europska komisija. U nacrtu se, između ostalog, kaže da neće biti dozvoljeno korištenje sustava umjetne inteligencije za manipulaciju ljudskog ponašanja te za dobivanje informacija o pojedincima ili grupama.

Također, pod zabranom će biti korištenje AI sustava za neselektivni masovni nadzor, no bit će dopuštene iznimke kod nekih slučajeva kad je posrijedi javna sigurnost. Novost je da se regulira i korištenje sustava umjetne inteligencije za socijalno ocjenjivanje, postupka koji se već u određenoj mjeri primjenjuje u svijetu.

Pojednostavnjeno, kod takve procjene svaki postupak pojedinca – ili detalji o njegovu kretanju – mogu se ocijeniti koristeći se unaprijed određenom ljestvicom, čime se dobiva društvena vrijednost i procjena pojedinca.

Ponašanje koje se smatra pozitivnim diže vrijednost pojedinca, a ono negativno ga spušta. Primjeri već postoje – od onih najjednostavnijih, kad vlasnici restorana ili drugih objekata jednostavno zabrane ulazak nekome tko je izazivao probleme, do primjera u ekonomiji dijeljenja, kao Airbnb ili taksi-prijevoznicima gdje postoji sustav ocjenjivanja korisnika i davatelja usluga. Razne osiguravajuće kompanije koriste sustave koji omogućuju prikupljanje informacija o ponašanju pojedinaca iz podataka s društvenih mreža kojima se koriste. Ova pitanja posebno su došla u fokus kod pandemije koronavirusa, kad se pojavilo pitanje zaštite ljudskih prava, zadiranja u privatnost i ograničavanja širenja bolesti.

Nadalje, novi propisi EU kažu da će biometrijski identifkacijski sustavi na daljinu koji se koristi u javnim prostorima, poput prepoznavanja lica, trebati posebnu autorizaciju vlasti.

Sophia the robot to auction off her AI artwork NAJBOLJI SU IRCI Hrvatske tvrtke tek 17. na ljestvici korištenja umjetne inteligencije

Primjene umjetne inteligencije koje se smatraju visokorizičnima prije primjene morat će proći inspekciju kako bi se osiguralo da se temelje na neutralnim i nepristranim baznim setovima i morat će imati ljuski nadzor.

Certifikati i kazne

Oznaka “visokorizične” umjetne inteligencije označavaju se svi sustavi koji bi mogli ugroziti sigurnost i živote ljudi, fundamentalna prava, kao i EU demokratske procese, a u njih se, primjerice, ubrajaju samovozeći automobili ili operacije koje se izvode na daljinu. Određene visokorizične primjene AI uključuju i one koje se koriste kao sigurnosne komponente u važnim mrežama javne infrastrukture, uključujući ceste, opskrbu vodom, plinom i električnom energijom.

Međutim, nacrt predviđa da se takve zabrane neće primjenjivati na vlade i javne vlasti EU kada se provode “radi zaštite javne sigurnosti”. To znači da bi vlade EU mogle u budućnosti opravdati upotrebu intruzivnih AI aplikacija iz sigurnosnih razloga. Neke kompanije moći će same provesti ocjenu prikladnosti i usklađenosti s novim pravilima, dok će ostale provjeravati treća strana te im izdavati certifkate koji će vrijediti do pet godina. Ista pravila vrijedit će za kompanije sa sjedištem u EU, kao i izvan Unije.

Države članice EU morat će osnovati posebna tijela koja će testirati, certifcirati i pregledavati sustave. One kompanije koje razvijaju zabranjene usluge u kojima se koristi umjetna inteligencija, predočuju netočne podatke ili odbiju surađivati s nacionalnim tijelima kaznit će se kaznom do četiri posto zarade koje ostvare u svijetu.

Što s analizom pokreta lica i emocija na intervjuu za posao

Kritičari će i kod novog prijedloga uređenja korištenja sustava umjetne inteligencije opet upozoriti na probleme koji se kose s ljudskim pravima. Najsporniji dio je davanje u ruke državi mogućnost da koristi masovni nadzor u svrhu javne sigurnosti te da tako provodi manipulaciju ljudskog ponašanja i ciljano napada slabosti ljudi. Također, pozornost  skreću na korištenje pseudoznanstvenih postupaka ili pak onih koji imaju slabu potvrdu u znanosti prigodom, primjerice, biranja kandidata za neki posao. Ti se postupci podvode pod egidu visokorizična umjetna inteligencija te je nužno posjedovati dovoljno robusnu bazu podataka te ljudski nadzor. Ali što u situacijama kad je sustav temeljen na manjkavim premisama, ali s velikom mogućnosti da počini štetu, kao što je analiza pokreta lica i emocija tijekom intervjua za posao, pita se Daniel Leufer koji se, uz filozofiju i tehnologiju, bavi i digitalnim pravima.

sudski epilog
Milan Popović izgubio spor, Severina pravomoćno oslobođena optužbi za klevetu
CVH
CVH
Naučite kako samostalno obaviti pregled motocikla i dođite na besplatnu provjeru tehničke ispravnosti
  • znam:

    Malo ljudi shvaca da je svijet u jednom velikom eksperimentu na dva polja: cjepiva i IoT. Jedna od komponentni IoT je AI koja je u Kini jako razvijena; slijede UK i USA. U Kini se koristi software koji prepoznaje Ujgure ... prikaži još! na ulici; sto bi se u EU kosilo sa zakonima. Sva ta tehnologija se moze koristiti za pozitivne svrhe ali i obratno. Previse tehnologije ima za posljedicu i zdravstvene probleme: nedavno i kontinuirano lansiranje i aktiviranje satelita ima negativne ucinke na zdravlje ljudi, zivotinja diljem planeta. Javljaju se ljudi iz NZ, Australije, Slovenije, USA i drugih zemalja o problemima sa spavanjem, nemirom, uginucem zivotinja i kucnih ljubimaca ( pogledati pisanje Arthur Firstenberg-a). Jedna znacajka za farmaceutsku i telekom industriju je neprihvacanje odgovornosti za nuspojave. Osobno nikad ne bih zelio biti na stolu a da netko operira na daljinu. Samovozeci auti su nepotrebni. Vise stete nego koristi.

  • sisavac:

    bacanje prašine u oči, ništ drugo. oni koji žele, snimat će. dobiti dozvolu vlasti. čim spomeneš 'sigurnost', nadodaš nacionalnu, eto ti dozvole za sve. čim se obvežeš dijeliti informacije sa državnim službama, dobivaš dozvolu za sve. eu nema neku tehnološku ... prikaži još! jaku formu u tom sektoru, tu su ameri i kinezi dalje od svih otišli. prijetiti kaznama je onak, djetinjasto. al je prilika za osnovati posebnu eu agenciju... znate, tamo su plaće i do 20.ooo eura...