Povjerenje u umjetnu inteligenciju postaje važan čimbenik njezine poslovne isplativosti. Pokazuje to novo globalno istraživanje koje je za SAS, globalnu kompaniju specijaliziranu za podatke i umjetnu inteligenciju, proveo IDC među 2.699 donositelja odluka u 28 zemalja. Organizacije koje prednjače u odgovornoj i pouzdanoj primjeni umjetne inteligencije imaju čak 15 puta veću vjerojatnost ostvariti visok povrat ulaganja u AI projekte.
Rezultati drugog godišnjeg izvješća Data and AI Impact Report: The New Economics of Trust pokazuju da razliku ne čini nužno tehnologija koju organizacije koriste, već način na koji njome upravljaju. Čak 62 % organizacija s razvijenim praksama pouzdane umjetne inteligencije prijavljuje značajan ili visok povrat ulaganja u AI, u usporedbi sa samo 4 % organizacija koje u tom području zaostaju. Organizacije s najrazvijenijim praksama pritom ostvaruju 1,85 puta veće koristi u 13 različitih područja poslovnih rezultata, uključujući rast prihoda, uštede troškova i korisničko iskustvo.
Pod pouzdanom umjetnom inteligencijom (trustworthy AI) podrazumijeva se AI koji je pouzdan, pravedan, siguran, usklađen s regulatornim zahtjevima te može jasno pokazati kako je došao do određene odluke. Istraživanje organizacije pritom promatra kroz pet područja: kvalitetu podataka i upravljanje podacima, upravljanje i nadzor AI modela, objašnjivost i pravednost, odgovornu politiku primjene AI-ja te reviziju i odgovornost.
Pitanje povjerenja postaje još važnije kako AI sustavi dobivaju veću autonomiju. Čak 97,2 % korisnika barem ponekad odlučuje ne slijediti preporuke umjetne inteligencije, a glavni razlog nije nužno procjena da je rezultat pogrešan, već činjenica da AI ne može objasniti kako je došao do svoje odluke. Istodobno, povjerenje pada sa 76 % kod generativne na 66 % kod agentske umjetne inteligencije, odnosno AI sustava koji mogu autonomnije planirati i izvršavati zadatke.
„Kad umjetna inteligencija funkcionira, njezin utjecaj može biti izniman“, ističe Bryan Harris, tehnički direktor SAS-a. „Međutim, poznato je da najsuvremeniji AI agenti na složenim zadacima mogu imati stope pogrešaka veće od 25 %, što je neprihvatljivo kada je riječ o donošenju odluka s visokim ulozima. Kako bi postigle točnost i dosljednost rezultata, organizacije moraju ugraditi stručno znanje u agentske tijekove rada, a ljude zadržati u središtu upravljanja i nadzora. Organizacije koje u tome uspiju smanjit će jaz u povjerenju i steći konkurentsku prednost.“
„Kako umjetna inteligencija postaje sve autonomnija, organizacije se suočavaju s novim izazovom – kako zadržati povjerenje u sustave koje ljudi ne razumiju u potpunosti“, ističe Chris Marshall, potpredsjednik IDC-a. „Naši nalazi pokazuju da snažniji nadzor, objašnjivost, odgovornost i kvalitetni podatkovni temelji postaju preduvjeti za uspješno širenje primjene umjetne inteligencije.“
AI koji ne može objasniti svoje odluke postaje poslovni rizik
Nedostatak povjerenja zaposlenika u odluke umjetne inteligencije jedna je od glavnih prepreka njezinoj uspješnoj primjeni. Kada zaposlenici ne razumiju na temelju čega je AI donio odluku, češće odbacuju njegove preporuke i ručno ih ispravljaju, što organizacije može stajati vremena, produktivnosti i profitabilnosti. Budući da kvaliteta odluka umjetne inteligencije ovisi o podacima na kojima se temelje, kvalitetni podatkovni temelji ključni su i za izgradnju povjerenja u rezultate AI-ja.
Pouzdana primjena AI-ja donosi bolje poslovne rezultate
Istraživanje pokazuje sve veću razliku između organizacija koje pouzdanoj umjetnoj inteligenciji daju prioritet i onih koje to ne čine. Organizacije koje ostvaruju najveću vrijednost od AI-ja ne koriste nužno drugačiju tehnologiju – ključna je razlika u načinu na koji njome upravljaju. Čak 85 % vodećih organizacija s razvijenim praksama pouzdane umjetne inteligencije ove godine povećava ulaganja u to područje za više od 10 %, čime dodatno povećavaju razliku u odnosu na organizacije koje zaostaju.
Slabi podatkovni temelji koče povrat ulaganja u AI
Unatoč ubrzanom razvoju umjetne inteligencije, mnoge organizacije AI još uvijek primjenjuju na nedovoljno razvijenoj ili zastarjeloj podatkovnoj infrastrukturi. Bez kvalitetnih podatkovnih temelja teško je osigurati transparentnost i mogućnost objašnjenja rezultata te učinkovito upravljati AI sustavima.
Samo 17,5 % organizacija ima potpuno optimiziranu podatkovnu infrastrukturu dovoljno zrelu za zahtjeve agentske umjetne inteligencije. Organizacije s optimiziranim podatkovnim temeljima imaju četiri puta veću vjerojatnost očekivati značajan povrat ulaganja od AI projekata te šest puta veću vjerojatnost zahtijevati kontrole kvalitete podataka i objašnjivosti potrebne za izgradnju povjerenja.
Razlike među industrijama
Istraživanje je provedeno među 2.699 donositelja odluka u 28 zemalja, a posebno su analizirani bankarstvo, osiguranje, sektor znanosti o životu i javni sektor. Rezultati pokazuju i razlike u načinu na koji pojedine industrije pristupaju umjetnoj inteligenciji.
U bankarstvu 85 % banaka koje prednjače u primjeni AI-ja već ima uspostavljene okvire za upravljanje umjetnom inteligencijom, u usporedbi s 29 % onih koje zaostaju. U javnom sektoru 41 % lidera planira u sljedećih godinu dana povećati ulaganja u pouzdanu umjetnu inteligenciju za više od 20 %. Istodobno je 23 % organizacija u sektoru znanosti o životu proširilo primjenu AI-ja na razinu cijele organizacije, što je najveći udio među promatranim sektorima.
Cjeloviti rezultati istraživanja dostupni su na stranici tvrtke SAS.