U Saboru je danas održana prva rasprava na temu umjetne inteligencije. O tome se nije razgovaralo u sabornici na plenarnoj sjednici, već u jednoj od saborskih dvorana gdje je saborska zastupnica iz kluba Mosta Marija Selak Raspudić organizirala tematski okrugli stol vrlo efektno nazvan "Neka bude volja stroja?", a u raspravi o zakonskoj regulaciji, etičkim dilemama i razvojnoj perspektivi umjetne inteligencije sudjelovalo je 11 stručnjaka i stručnjakinja, sve redom relevantni sugovornici na ovu iznimno zanimljivu i aktualnu temu koju već živimo, iako kaskajući, kako su mnogi isticali u raspravi.
No unatoč važnosti teme koja nam zapravo nezaustavljivo juri u susret, što samo dokazuje da se ona s margina što prije treba staviti u središte promišljanja, raspravljanja i odlučivanja, zastupnici i zastupnice nisu za nju pokazali interes. Ali jesu novinari i novinarke koji su prije samog okruglog stola, tijekom uvriježenih davanja izjava, njegove sudionike zasuli nizom pitanja pa je sam početak zakazane rasprave kasnio pola sata.
A onda se u dvosatnoj razmjeni mišljenja moglo čuti zaista vrijednih i poučnih informacija, razmišljanja, kritika, prijedloga, savjeta i zaključaka koji će i naknadno biti dorađeni te nadopunjeni kako bi ovaj početak rasprave o umjetnoj intelgenciji u Saboru rezultirao što bržim pomacima na svim razinama, što je ujedno bila i glavna poruka skupa. - Sabor ne smije biti jedna učmala institucija koja kaska za trendovima nego ih ona treba predvodi. Ako treba doći do razvoja Hrvatske, taj razvoj treba započeti upravo u Saboru - odmah na početku rasprave kazala je zastupnica Marija Selak Raspudić prepustivši potom riječ onima koje je u Sabor i pozvala.
Otvarajući raspravu Juraj Bilić iz CARNET-a govorio je o umjetnoj inteligenciji u sustavu obrazovanja, uvodno kazavši kako je digitalizacija i informatizacija obrazavanja, što se sad provodi kroz projekt E-škola kojim se informatiziralo sve naše škole, bila najveća investicija u povijesti obrazovnog sustava i ulaganja u informatizaciju u Europskoj uniji. Projekt je bio "težak" 217 milijuna eura.
- Kada govorimo o umjetnoj intelgenciji u obrazovnom sustavu, onda moramo biti svjesni i prednosti i mana. I zato je s korisnicima važno raditi na tome kako tehnologiju koristiti. Zahvaljujući spomenutom projektu trenutačno radimo na analizi prikupljenih podataka, što ond amože poslužiti i školama, i nastavnicima, i učenicima, i roditeljima. Umjetna inteligencija može pomoći i nastavnicima i učenicima. Nastavnicima ona može pomoći u pripremi nastave, u ispitivanju, ocjenjivanju... Učenicima pak može pomoći u učenju, zadaćama, traženju i bržem pronalaženju informacija, no može im ona biti i mentorski alat. To su one lijepe stvari. No u CARNET-u smo prepoznali i opasnosti umjetne inteligencije, kao što je njeno nekritičko korištenje zbog netočnih informacija. Velika je opasnost i to da se umjetna inteligencija koristi i kao završno sredstvo pri vrednovanju i ocjenjivanju. Ona to ne može biti, ona u tom smislu može biti samo pomoćno sredstvo. Zatim, ne smijemo dozvoliti da umjetna inteligencija definira nečiji osobni put. Kod nastavnika se može razviti i osjećaj kompeticije s umjetnom inteligencijom jer neki učenik može dovesti u pitanje ono što nastavnik govori uz navođenje kako je negdje drugdje o nečemu dobio neku drugu informaciju. Nastavnici će se morati naučiti nositi s takvim situacijama. A već otprije je prisutna i opasnost stalne dostupnosti. Kod učenika pak prijete opasnosti kao što su: doživljavanje umjetne inteligencije kao živog bića, poticanje antisocialnog ponašanje, nerazvijanje kritičkog razmišljanja i stalna dostupnost - naveo je Bilić dodajući kako je CARNET-ov moto da "tehnologija mora biti po mjeri čovjeka" te da je zato ponekad dobro ne suviše žuriti s uvođenjem tehnololgije u tradicionalne sustave poput obrazovanja.
Potom je riječ uzeo Karlo Knežević, voditelj tima za umjetnu inteligenciju, analitiku i informacije iz tvrtke SOFASCORE. - Mi radimo proizvod za praćenje sportskih rezultata i informacija. Prisutni smo u cijelom svijetu. Mjesečno imamo 25 milijuna aktivnih korisnika, a svakodnevno od korisnika prikupimo oko milijardu akcija. Sve te prikupljene podatke analiziramo i onda razrađujemo modele koji pomažu u donošenju dobrih odluka. I mi u firmi koristimo umjetnu inteligenciju. Recimo, imamo "chat", no uočili smo i nepoželjan govor, bilo da se radi o toksičnom govoru, bilo o govoru mržnje koji vrijeđa na bilo kojoj osnovi. I morali smo u firmi razviti model koji ima mogućnost raspoznati "sentiment" poruke i otkriti onu koja je nepoželjna. Radimo još i na segmentaciji slikovnog sadržaja kako bismo poslanu sliku mogli procijeniti ili kao poželjnu ili kao nepoželjnu. Kako se bavimo i ranim otkrivanjem mladih talenata, pa stoga postajemo zanimljivi sportskim skautima, naš je cilj što više iskorištavati podatke kojima raspolažemo, i to na etičan način. Želimo biti brzi i točni, a to bez umjetne inteligencije ne možemo. Bez toga na tržištu ne možemo biti konkurentni - iznoseći primjer iz prakse reče Knežević.
Akademik, prof. dr. sc. Sven Lončarić, koji je i voditelj Centra za umjetnu inteligenciju zagrebačkog Fakulteta elektrotehnike i računarstva (FER) podsjetio je uvodno kako je HAZU 2019. organizirao okrugli stol na kojem se govorilo i o umjetnoj inteligenciji, a tom su se prilikom dale i preporuke nacionalnih ciljeva. Spomenuo je i dvije incijative vezane uz umjetnu intilegenciju, Centar na FER-u gdje se više od stotinu ljudi bavi umjetnom inteligencijom, te Znanstveni centar izvrsnosti koji je jedini u Hrvatskoj na području znanosti vezan uz primjenu umjetne inteligencije. - U hrvatskom gospodarstvu ogromna je potreba za ljudima koji su na taj način obrazovani. Naši doktoranti čim završe obrazovanje odmah nalaze poslove u raznim firmama. Ja se bavim područjem računalnog vida. To je danas jako propulzivna grana umjetne inteligencije. U zdravstvu se ona koristi u analizi slika za potrebe dijagnostike i terapije. U poljoprivredi za nadzor farmi, usjeva, insekata... Primjenjuje se i u prometu na cestama. Recimo, kada na autocesti auto počne voziti u suprotom smjeru, pri detekcija tablica, brojenju vozača i pješaka, detekciji stanja vozača... Koristi se i u maloprodaji, prati kretanje kupaca u shopping centrima. U sportu se primjenjuje za praćenje igrača na terenu, za detekciju nekih situacija u mnogim sportovima. Naravno, i kod umjetne inteligencije postoji mala mogućnost pogreške, kao i kod ljudi. Želja je da sustavi umjetne inteligencije budu objašnjivi, da se, recimo, u medicini zna kakvu dijagnozu postaviti. Stoga se sad razvijaju sustavi koji bi to omogućili. Ali kod "učenja" sustava mora se izbjeći bilo kakva diskriminacija, bilo spolna, bilo rasna, bilo religijska, bilo politička... Danas umjetna inteligencija čovjeku pomaže. Gledamo je kao pomoć, a ne kao prijetnju koja će zamijeniti čovjeka - kazao je Lončarić. Ipak njegovu završnu misao - još neko vrijeme bit će volja čovjeka, a ne volja stroja - treba upamtiti te razumno, savjesno i odgovorno shvatiti.
- Umjetna inteligencija je jedna od novih tehnologija koja je okosnica budućeg razvoja u segmentu inovacija. U inovacijskom pogledu digitalne platforme i digitalni proizvodi sedmi su stup razvoja Hrvatske. U Ministarstvu znanosti i obrazovanja pokrenuli smo mnoge pozive i natječaje kojima financiramo programe i projekte iz tog sektora. Prilika za financiranje projekata suradnje znanosti i gospodarstva sad ima puno više nego prije. Pitanje je samo imamo li kapaciteta iskoristiti sva sredstva koja su nam na raspolaganju iz Europe. Donijet ćemo Plan razvoja umjetne intelegncije. Trenutačno radimo mapiranje i znanstvenog i gospodarskog potrencijala razvoja umjetne inteligencije kako bismo doznali koje potencijale tu imamo. Veliki izazov nam je regulativa. Uredba o umjetnoj inteligenciji trenutačno je u raspravi u Europskoj uniji. Kada se ona donese bit će veliki izazov implementirati je u naše zakonodavstvo - naglasio je tijekom rasprave dr. sc. Hrvoje Meštrić, ravnatelj Uprave za znanost i tehnologiju u Ministarstvu znanosti i obrazovanja.
A onda je ravnatelj Globalnog instituta za etiku u umjetnoj inteligeniciji (GLOBAL AI ETHICS INSTITUTE) Aco Momčilović razgovor začinio svojim razmišljanjima, pitanjima i mogućim odgovorima koji se temelje kako na njegovim, tako i na nekim inozemnim istraživanjima. Za početak je pohvalio onoga tko je smislio naziv okruglog stola jer "odlično odzvanja", da bi zatim posve neuvijeno ocijenio kako je naslov okruglog stola "j***n".
- Zašto ima smisla u Saboru razgovarati o umjetnoj inteligenciji? To je glavno pitanje. I zato je šteta što ovdje sad ne sjede i drugi zastupnici. Svi će imati koristi od umjetne inteligencije. To je naša intuitivna pretpostavka koja možda i nije točna. Na temelju intuitivnog iskustva mislimo ako imamo struju ili internet, svi će imati koristi od struje i intereneta, pa će onda na isti način svi imati koristi i od umjetne inteligencije. No možda baš i nije tako. Prije tri godine radio sam malo istraživanje o tome kako će razvoj i implementacija umjetne inteligencije utjecati na razne zemlje. I bilo je zanimljivo istraživati kako će to utjecati na one zemlje koji su u tome prve i najbolje i na one koji su u tome posljednje. Godinu dana kasnije moje je bojazni potvrdilo i jedno inozemno istraživanje. Naime, pokazalo se da će one zemlje koje su u tome prve i vodeće, koje sve pokreću, od umjetne inteligencije imati 122 boda dobitaka. Onim zemljama koje će u tom procesu biti u sredini benefit će biti 30 bodova. Najzanimljiviji dio istraživanja bile su upravo one posljednje zemlje koje neće imati nikakve koristi. Štoviše, one će ostvariti minus pet do 10 bodova, što će ih još više udaljiti od onih najrazvijenijih zemalja koje su razvoj umjetne inteligencije i pokrenule. A tih najrazvijenih ima desetak na svijetu. Hrvatska spada u ove posljednje. To je hipoteza koja može i ne mora biti točna, no uima naznaka da se u tom pogledu može svašta dogoditi. Razlike koje sada postoje umjetna će inteligencija još više razvući i povećati. Razilke koje su sad, recimo, 5 ili 10, s vremenom mogu biti sto ili tisuću. Stoga je prvo pitanje - kako nas vlade mogu bolje pozicionirati i koliko zapravo vremena imamo. Drugo su pitanje političke i ekonomske posljedice - tko razvija umjetnu inteligenciju? Odgovor je trivijalan. Umjetnu inteligenciju, prema ovom poretku, razvijaju privatne firme, pa onda startupovi, pa akademska zajednica, pa državne institucije. Znači, država je zadnja. A u 20 stoljeću sve fundamentalne razvoje financirale su države, dok danas države i vlade više ne kontroliraju i ne financiraju razvoj umjetne inteligencije. Posljedica toga je da države puno manje sudjeluju i kontroliraju taj razvoj. Eto, to je pitanje za Sabor - želimo li mi i možemo li mi regairati na to? I treće, gdje nas to vodi? Koji su rizivi ako ne reagiramo? Postoji opasnost od nove vrste kolonijalizma. Ako nismo među državama koje to među prvima razvijaju, postat ćemo zemlja trećeg budućeg tehnološkog svijeta pa će naši ljudi raditi glupe, rutinske poslove koji će biti najslabije plaćeni. Mi sad kao zemlja hvatamo poziciju, a tu je važna obrazovna stategija. Moramo biti svjesni, neće svima biti bolje. I zato imamo razloga biti jako skeptični vezano uz političare koji vode našu zemlju, no to može biti i prilika nekome da se istakne - naveo je Momčilović u svom izlaganju niz zanimljivih i logičnih argumenata, razmišljanja i pitanja te ih uputio na prave adrese. Sad je pitanje - hoće li ih oni na tim adresama čuti i uvažiti. I na kraju ponuditi odgovore i rješenja. Nekako na tragu njegove opaske o važnosti nametanja ovih tema i u Saboru, nadovezala se i Marija Selak Raspudić ustvrdivši da zastupnici baš ne nameću teme, već više podliježu nametnutim temama, ali se povremeno ipak dogodi da se neke kvalitetne teme probiju.
- Ne brinite, ova će se tema probijati i u Saboru - poručila je Selak Raspudić. Da osim podrške privatnog sektora i pokušaja u znanosti, Hrvatska po pitanju teme o kojoj se raspravljalo nema apsolutno nikakvu strategiju pa u tome dosta zaostajemo, ustvrdio je u nastavku predsjednik udruge CROAI Dražen Oreščanin, poručujući kako trebamo puno više ovakvih događanja. Stoga njegova udruga jako puno radi na terenu, držeći predavanja u školama i na fakultetima. - Tvrtka u kojoj sam suosnivač vodi inkubator u kojoj je 30-ak tvrtki, pola njih je iz Hrvatske, ostalo su tvrtke iz cijelog svijeta. Imamo stotinjak stranih i domaćih mentora. Među tri smo takva inkubatora u Europi, a u hrvatskoj javnosti to nikoga ne zanima. Nitko iz Vlade ili Sabora ili zagrebačke vladajuće garniture nije pokazao nikakav interes za stvari koje radimo, što smatramo poražavajućim - požalio se Oreščanin ističući upozoravajući kako na raspolaganju ima puno europskih sredstava koji mogu biti iskorišteni te da oni koji se ovim područjem bave u praksi zaslužuju puno više podršle i politike i javnosti nego što je to sad.
A onda se na pravnu dimenziju cijele ove priče osvrnula izv. prof. dr. sc. Sunčana Roksandić s Katedre za kazneno pravo zagrebačkog Pravnog fakulteta. - Pravnici nisu ovdje kako bi bili kočničari razvoja, nego kako bi postavili neke okvire jer ovdje ima jako puno pitanja i etike. Razvoj i uporaba umjetne inteligencije treba biti u skladu s već donesenim smjernicima i s četiri osnovna bioetična načela. Više mi se sviđa pristup da Europska unija razvija umjetnu inteligenciju na temelju vrijednosti Europske unije, što znači da svi sustavi umjetne inteligencije svoje postojanje trebaju bazirati na temelju pravičnosti i ljudskim pravima. Mi dajemo informacije umjetnoj inteligenciji. I mi se umjetne inteligencije ne trebamo bojati nego je trebamo dobro regulirati. A najprije treba regilirati ona područja koja su visoko razična, jednakost, poštivanje ljudskih prava... - naznačila je Sunčana Roksandić.
Da je potrebno govoriti o općem moralno imperativu i o tome kako će se država u tom smislu pozicionirati, naglasio je i Luka Perušić s Katedre za etiku zagrebačkog Filozofskog fakulteta.
- Podatak kaže da se u SAD umjetnom inteligencijom bavi oko tri puta više ljudi nego što nas ima u Hrvatskoj. Ne znam samo je li u to uključena i industrija zabave koja podrazumijeva industruju video igara na koju se kod nas gleda kao na zabavu za neozbiljne ljude i djecu - kazao je Perušić posebno naglašavajući kako je financijsko ulaganje u naš znantsveni sustav najlošije u Europskoj uniji pa je apelirao da se u nas "drastično podigne financiranje u znanost".
- Mi povremeno imamo pojedinačna dobra sidrišta, ali cijeli je sustav podbačen. Mi nemamo strategiju. Trebamo stratregije i ekspertne skupine o tome kako financirati, kakve timove formirati. Trebamo promijeniti političku volju i to tako da imamo sustavno obrazovanje o novoj epohi u kojoj živimo i investiranje u znanstveni kadar. Za ono što postižu jedan Francuz ili Nijemac, mi moramo tri puta više raditi. Mi strateški kaskamo za onim što se u svijetu događa - ocijenio je Perušić. Na njega se nadovezao prof. dr. sc. Jan Šnajder sa Zavod za elektroniku, mikroelektroniku, računalne i inteligentne sustave na zagrebačkom FER-u, govoreći o ChatGPT-u.
- Razgovorni agent ili ChatGPT relenevantan je iz dva razloga - radi iznenađujuće dobro i njegova recepcija u javnosti je da su takvi sustavi fascinantni, zabavni, korisni, ali su i opasni jer su odgovori često zabavni, ali nerijetko i pogrešni, podložni su i algoritmanskim pristranostima, dezinformacijama. Sustav je presiguran u svoje znanje, ne zna da ne zna. A onaj tko ne zna da ne zna, opasan je, rekao je još Konfucije. To je tehnički problem i etički škakljiv sustav. Ubuduće, a to su tjedni pred nama, možemo očekivati daljnji razvoj ChatGPT-a. Nijedna tehnologija nije neutralna, no na nama je da odlučno što ćemo razvijati i kako. Imati regulativu neće biti dovoljno, treba u društvu ispitati naš opći odnos prema tehnolgiji. Doveli smo se u situaciju da prvo dolazi tehnologija, a onda namjera. Želimo razvijati umjetnu inteligenciju koja će služiti ljudima i društvu. Pozivam vas da osiguramo prirodnu inteligenciju pa ćemo se onda rado baviti umjetnom inteligencijom - poručio je Šnajder. Kako je u raspravi sudjelovala i pučka pravobraniteljica Tena Šimonović Einwalter bilo je zanimljivo čuti i što onakaže na ovu temu.
- U Hrvatskoj se nedovoljno raspravlja o benefitima, mogućnostima, ali i rizicima umjetne inteligencije. A ja se bavim prvenstveno rizicima. Već četiri-pet godina pohodim razne konferencije i rasprave na europskoj razini, no u Hrvatskoj kao da se ne vidi što se događa, koliko je razvoj brz, što se sve istražuje i piše o uporabi umjetne inteligencije. Ne zna se dovoljno pa onda dobivamo senzacionalističke članke koji plaše građane. Što se tiče regulative, na razini Europske unije donosi se jedan dokument o rizicima. U EU se otvara i pitanje odgovornosti za umjetnu inteligenciju, kao i pitanje obeštećenja. No u Hrvatskoj nitko za to nije pokazao interes. Do kraja 2019. trebalo je o tome donijeti nacionalni strateški plan koji nikada nije donesen. Naš ured bio je uključen u stratešku skupnu koja se nikada nije sastala. Koliko je god važno pozitivno govoriti o umjetnoj inteligenciji, ipak je potrebno puno ozbiljnije razmatrati i rizike od kojih je i puno novih, neočekivanih. Važno je pratiti koliko će se umjetna inteligencija koristiti u raznim javnim sustavima. Tu je potrebno imati veliku transparentnost. Kada javni sektor primjenjuje umjetnu inteligenciju važno je znati tko i kada donosi odluke te može li se na te odluke prituživati. Treba educirati ne samo djecu nego sve građane kako ne bi bilo toliko straha od umjetne inteligencije - naglašavala je pučka pravobraniteljica Tena Šimonović Einwalter na što sve treba pomno misliti kako bi se rizici što više izbjegli i spriječili.
Kao posljednji u raspravi svoja je razmišljanja iznio i akademik Leo Budin Akademik Leo Budin kazavši za početak kako imamo jako puno straregija, ali su ključ svega - ljudi. - U strategiji razvoja Hrvatske do 2030. puno toga piše u stilu u kojem smo sad govorili, no kada pažljvo analizirate onda dolazite do zaključka da su nam za umjetnu inteligenciju potrebni inteligentni, obrazovani ljudi. Ne samo znanstvenici već i oni sa srednjim obrazovanjem. Znači, obrazovanje nam je jako bitno, i to od vrtića. Na temu umjetne inteligencije treba se poticati multidisciplinarnost. Te znati što konkretno činiti i za što potrošiti EU novac. Važno je znati - kuda ćemo i kako ćemo. Treba osmisliti pamtne taktike kako ostvariti napisane strategije - bio je vrlo jasan akademik Budin. Na kraju rasprave, svatko od sudionika izreći neki kratki zaključak ili završni osvrt na sve što se moglo čuti.
Knežević je tom prilikom kazao kako bi njegovoj firmi bilo teško ići u korak s tvrtakama koje djeluju u istoj domeni bez primjene umjetne inteligencije jer bi njihova učinkovitost bila bi puno manja, samim time i konkurentnost. Pučka pravobraniteljica navela je pak kako je u njenom izvješću za 2021. prvi put bilo i poglavlje o umjetnoj inteligenciji, no da to izvješće još uvijek nije raspravljeno u Saboru jer nije stavljeno na dnevni red. Lončarić se složio s Budinom da gomilamo razne strategije, a trebaju nam taktike.
- Hrvatska je u petoj brzini u "rikverc". U nas su kontinuirano teme Domovinski rat, ustaše, partizane, Tito, Tuđman... Jednom kada se Hrvatska okrene prema naprijed pa iz pete brzine u "rikverc" ubaci barem u prvu brzinu prema naprijed, onda će i umjetna inteligencija postati tema. To se dogoditi čim prije inače smo propali. Bilo bi idealno kada bi umjetna inteligencija u Hrvatskoj bila popularna kao nogomet. To je nemoguće, no kada bi bila popularna barem kao rukoment ili vaterpolo, to bi bilo dobro. Moja je poruka - rasopravljati je dobro, ali nije dovoljno, treba raditi. Kada to shvate hrvatska politička scena i hrvatske korporacije, onda smo na konju - propisao je Oreščanin svoju dijagnozu i lijek. Momčilović se samo nadovezao kako je ono što su oni govorili važno slušati.
- Cilj je da nas se sluša. Mi o toj temi nešto znamo. I važno je da to što govorimo do nekoga i dođe. Važno je da nas se čuje - poručio je Momčilović, dok je Šnajder još jednom apelirao da se fokus stavi na na obrazovanje i znanost, uz napomenu da su tehnologije alat, a ne svrha. Profesorica Roksandić reče kako se trebamo razvijati u skladu s vrijednostima EU, ali i znati koje su granice rizika, da bi Metrić priznao kako ga je današnji skup potaknuo n aodluku da se u državnoj upravi osnuje grupa koja bi izradila plan na temu umjetne inteligencije prije nego se donese EU uredba. - Bez umjetne inteligencije nema zelene Europe - kazao je pak Budin. Na kraju je Marija Selak Raspuidić još jednom istaknula kako se danas ipak dogodila jedna prekretnica. - Ovime otvaramo teme o umjetnoj inteligenciji u institucijama koje su zadužene za praktičnu primjenu - poručila je Selak Raspudić.
>> VIDEO Buran početak sjednice: Verbalno se dograbili Marija Selak Raspudić i Gordan Jandroković
