Umjetna inteligencija otvara nove mogućnosti, ali istodobno donosi i nove sigurnosne rizike. Među njima su sve veća zloupotreba tehnologije za stvaranje materijala seksualnog zlostavljanja djece te nove prijetnje kibernetičkoj sigurnosti tvrtki. O tim su izazovima domaći i međunarodni stručnjaci raspravljali na trećoj konferenciji CyberGuard, koju organiziraju A1 Hrvatska i Centar za sigurniji internet. Jedan od najupečatljivijih podataka iznesenih na konferenciji odnosi se na materijale seksualnog zlostavljanja djece izrađene umjetnom inteligencijom. Britanska neprofitna organizacija Internet Watch Foundation (IWF), koja s interneta uklanja takve sadržaje, u prvih je šest mjeseci ove godine pronašla 6310 slika izrađenih uz pomoć umjetne inteligencije. To je 40 posto više nego tijekom cijele prošle godine, a na čak 98 posto tih slika prikazane su djevojčice.
Ngaire Alexander, voditeljica Hotlinea u IWF-u, govorila je o promjenama u oblicima seksualnog zlostavljanja djece na internetu te načinima prijavljivanja takvih materijala. O rizicima koje umjetna inteligencija donosi djeci govorio je i Federico Becchetti, zamjenik voditelja Odjela za zločine nad djecom u Interpolu, koji je u uvodnom predavanju objasnio kako AI mijenja prijetnje s kojima se djeca suočavaju na internetu.
Predsjednik Uprave A1 Hrvatska i A1 Slovenija Dejan Turk upozorio je na to da razvoj tehnologije dodatno otežava razlikovanje autentičnih sadržaja od onih koji su stvoreni ili izmijenjeni s namjerom obmane. „Naša djeca odrastaju u svijetu u kojem fotografija više nije dokaz istine, a glas koji čujemo preko telefona ne mora pripadati osobi koju volimo. Zato ih moramo učiti da kritički promišljaju i ono što vide i čuju“, izjavio je Turk. Dodao je kako sigurnost smatraju sastavnim dijelom povezivosti koju omogućuju te istaknuo važnost suradnje s Centrom za sigurniji internet u edukaciji djece, roditelja i nastavnika. A1 Hrvatska pritom poslovnim korisnicima pruža i znanje i rješenja za zaštitu podataka i poslovanja.
Voditelj Centra za sigurniji internet Tomislav Ramljak naglasio je da tehnološke mjere i zakonska regulativa nisu dovoljni bez odnosa povjerenja između djece i odraslih. „Dobna granica može odrediti kada dijete smije koristiti društvene mreže, ali odnos povjerenja utječe na to hoće li nam reći što ga muči“, istaknuo je Ramljak. Prema njegovim riječima, djeca moraju znati da se roditeljima i drugim odraslim osobama mogu obratiti bez straha od osude ili kazne, čak i kada pogriješe.
Umjetna inteligencija ne mijenja samo rizike za djecu nego i sigurnosne izazove s kojima se suočavaju tvrtke. Prema podacima CERT-a iznesenima na konferenciji, tijekom 2025. obrađeno je 1513 kibernetičkih incidenata, što je 35,9 posto više nego godinu ranije. Na tu se temu osvrnuo Ratko Mutavdžić, viši direktor za globalno savjetovanje javnog sektora u Microsoftu, govoreći o tome kako se organizacije mogu prilagoditi ubrzanim tehnološkim promjenama i ojačati kibernetičku sigurnost.
A1 Hrvatska okupio je i poslovne korisnike i partnere kako bi razmijenili iskustva o primjeni umjetne inteligencije u poslovanju, uz istodobno smanjivanje novih sigurnosnih rizika. Na panelu su sudjelovali stručnjaci iz Podravke, Infiga, King ICT-a i NLB Lease&Go, raspravljajući o tome kako iskoristiti potencijal AI-ja, a da tvrtke pritom ne postanu ranjivije. Tomislav Vazdar iz savjetodavne tvrtke Riskoria govorio je o autonomnim AI agentima kao novom alatu napadača. Pritom je istaknuo da je materijalna šteta uzrokovana kibernetičkim kriminalom, prema podacima MUP-a, u prvih šest mjeseci ove godine premašila 16 milijuna eura.
Uz tehnička rješenja, važan dio zaštite čini i razvoj digitalnih vještina. U panelu „#BoljiOnline: Sigurni iza ekrana“, koji je vodila Iva Ančić iz A1 Hrvatska, razgovaralo se o sustavnom razvoju digitalnih vještina mladih. Dunja Marušić Brezetić, ravnateljica I. gimnazije Zagreb, predstavila je iskustvo škole koja je prva u Hrvatskoj uvela fakultativni predmet Digitalna pismenost. Predmet je razvijen u suradnji A1 Hrvatske i Centra za sigurniji internet.
O važnosti infrastrukture za kibernetičku otpornost govorio je Bojan Klasan, rukovoditelj realizacija ICT rješenja i usluga data centra u A1 Hrvatska. Na primjeru A1 podatkovnog centra objasnio je kako fizička infrastruktura, redundancija i pouzdanost sustava pridonose sigurnosti i kontinuitetu digitalnih usluga. Treće izdanje konferencije CyberGuard okupilo je predstavnike tehnološkog i poslovnog sektora, obrazovanja, civilnog društva i institucija. Središnja poruka rasprava bila je da razvoj umjetne inteligencije zahtijeva istodobno jačanje tehničke zaštite, digitalne pismenosti i suradnje između poslovnog, civilnog i državnog sektora.