Ako razvoj umjetne inteligencije ne budemo čvrsto držali pod kontrolom, čeka nas scenarij sličan onome koji smo upoznali u “1984.” Georgea Orwella. Rekao je to u BBC-ovoj Panorami Brad Smith, predsjednik uprave Microsofta.
Zakoni za zaštitu javnosti
Sve bi se to moglo dogoditi već za tri godine ako se ne uvedu zakoni koji će javnost zaštititi od umjetne inteligencije. Smith predviđa kako bi neka vrsta kontrole, masovnog nadzora nad društvom kakvu je opisao Orwell u svojem distopijskom romanu doista mogla postati stvarnošću 2024. godine ako se ne ograniči primjena umjetne inteligencije. Zakonodavcima će biti teško uhvatiti korak s brzo napredujućom tehnologijom umjetne inteligencije te tehnologije nadzora. Rekao je to u epizodi popularne BBC-ove emisije koja se bavila primjenom umjetne inteligencije u Kini, i to u svrhu nadzora tamošnjeg stanovništva.
Podsjetimo, u toj svjetskoj supersili unatrag nekoliko godina primjenjuju širok nadzor javnog prostora kamerama, a uvedeni su bodovi za poštovanje pravila koji mogu biti i negativni. A to znači smanjenje nekih prava “neposlušnima” u odnosu na ona koja imaju građani koji u cijelosti poštuju zakone i pravila.
– Ako ne uvedemo zakone koji će u budućnosti zaštititi javnost, vidjet ćemo scenarij u kojem ta tehnologija prebrzo napreduje – rekao je Smith. U emisiji je prikazana šokantna kineska stvarnost u kojoj se na kineske građane primjenjuje tehnologija kojom je moguće čak prepoznati i emocije na njihovim licima, a ide se tako daleko da se procjenjuje i krivnja ako se traži krivac za neki prekršaj ili zločin. U emisiji je, kako prenosi londonski Daily Mail, sudjelovao i anonimni softverski inženjer uključen u kreiranje takvog softvera. On je rekao kako je pomagao u postavljanju sustava u policijske postaje provincije Xinjiang, koja je danas žalosno poznata kao jedan veliki logor za 12 milijuna Ujgura.
– Postavili smo kamere za prepoznavanje emocija na tri metra od subjekta. Ispalo je slično detektoru laži, samo što se ovdje radi o znatno naprednijoj tehnologiji koju koristimo kako bi vlasti unaprijed došle do zaključka bez bilo kakvog uvjerljiva dokaza. Računalni rezultat otkriva da je promatrani opasan pa prema tome on ili ona mora biti kriv – rekao je navodni kineski softveraš. Sve naoko izgleda kao antikineska propaganda, pomodna u današnje vrijeme, ali takvih je vijesti već bilo, a također znamo da tehnologija snažno napreduje te u mnogim situacijama nalikuje na onu kakvu smo još prije desetak godina gledali u znanstvenofantastičnim filmovima.
Pobjeda zemalja demokracije
Riječ je zapravo o jednom algoritmu s mogućnošću kontinuirane automatizirane nadogradnje. Ipak, Kina doista danas jest predvodnik u razvoju umjetne inteligencije te je 2019. godine imala više patenata na tom polju nego američke institucije.
– Stalno podsjećam na lekcije iz Orwellova romana. Znate kako ide temeljna priča: vlada može vidjeti sve što netko radi i čuti sve što netko govori. Pa, 1984. to nije moglo proći, ali ako ne budemo pazili, moglo bi 2024. – tvrdi Smith. S njim se slaže i Eric Schmidt, nekadašnji Googleov direktor za umjetnu inteligenciju, danas predsjedavajući američke Nacionalne komisije za sigurnost u umjetnoj inteligenciji.
– Mi smo u geopolitičkom strateškom sukobu. Put do pobjede zbijanje je naših resursa kako bismo postigli da na tom polju pobijede nacionalne i globalne strategije zemalja demokracije – rekao je Schmidt.
