U Hercegovini i dolini Neretve rijetko se govori o umjetnoj inteligenciji, a još rjeđe o njezinoj sigurnosti. Ipak, upravo odande dolazi Nikola Jurković, stručnjak koji se bavi jednim od najtežih i najvažnijih pitanja današnjice. Što se događa kada strojevi postanu sposobniji od ljudi. I hoćemo li to dočekati spremni.
Njegov put prema sigurnosti umjetne inteligencije počeo je puno ranije nego što je to uobičajeno. Odrastao je u malom pograničnom naselju Gabela Polje tik uz Metković. "Glavno pitanje koje mi je od osnovne škole diktiralo životne planove bilo je kada će čovječanstvo stvoriti nadljudske strojeve", kaže Nikola. "Hoće li se to dogoditi 2030., 2100. ili za nekoliko tisuća godina."
Njegova priča ne počinje na elitnim fakultetima ni u tehnološkim centrima, nego ispred računala, uz YouTube i online platforme. "Matematiku sam učio preko Khan Academy, fiziku preko MIT predavanja na YouTubeu.. programiranje sam učio kroz Codecademy i knjigu Python Crash Course." Već tada je shvatio da formalni sustav neće biti dovoljan ako želi razumjeti svijet koji dolazi.
U osnovnoj i srednjoj školi radio je projekte temeljene na online tutorijalima. "Programiranje, fizika, elektronika. Kroz to sam naučio kako rješavati stvarne probleme i kako raditi u timu" naglasio nam je. S 14 godina napravio je prvu Teslinu zavojnicu. "U gimnaziji smo s prijateljima napravili još nekoliko, svaka je bila veća od prethodne." Paralelno su gradili 3D printere, CNC stroj i male robotske sustave. "To nije bilo natjecanje. To je bila radoznalost."
Uz tehnički interes, rano se pojavio i filozofski. Čitao je knjige o budućnosti čovječanstva, posebno Carla Sagana i Maxa Tegmarka. "Od osnovne škole sam imao želju doprinijeti poboljšanju svijeta. Samo nisam znao koji je najbolji način." Prva ideja bio je svemir. "Mislio sam da je najbolji plan graditi baze na drugim planetima kako bi čovječanstvo bilo otpornije. Jedan od koraka u tom planu bio je raditi za NASA-u."
No kako su godine prolazile, tako se mijenjala i procjena rizika. "Kad sam bio osnovnoškolac mislio sam da se nadljudska inteligencija vjerojatno neće pojaviti dok sam živ. Zato mi se činilo razumnije baviti se hitnijim problemima, poput svemira." Prekretnica dolazi 2020. godine. "Kad sam prvi put razgovarao s GPT-3, bio sam u šoku. Pomislio sam: ovo sam očekivao 2060., ne 2020."
Nikoli je taj trenutak promijenio sve. "Postalo mi je jasno da se povijest kreće puno brže nego što sam mislio." Nikola tada donosi ključnu odluku. "Ako ćemo stvoriti nadljudske strojeve unutar nekoliko desetljeća, onda je daleko najvažniji problem na svijetu osigurati da ta tranzicija prođe bez konflikta."
Upis na Harvard bio je, kaže, logičan korak prema boljoj budućnosti. "Htio sam biti na najboljem mogućem mjestu za mene. Nije me zanimalo u kojoj se državi fakultet nalazi." Tijekom procesa prijava, priznaje, okolina je bila zbunjena. "Neki su tek shvatili da sam se prijavljivao u Ameriku kad su čuli da idem na Harvard." Američki obrazovni sustav ostavio je snažan dojam. "Studenti imaju ogromnu slobodu u odabiru predmeta i smjerova, ali i puno slobodnog vremena koje koriste za klubove." Nikola je oblikovao vlastiti studij, umjetna inteligencija i društvo. "Nijedan postojeći smjer nije odgovarao mojim interesima."
Velik dio vremena proveo je u izvannastavnim aktivnostima. "Iskreno, mislim da sam više vremena proveo u klubu za sigurnost umjetne inteligencije nego na samom fakultetu." Bio je jedan od organizatora AI Safety Student Teama, organizirao čitateljske grupe i konferencije. "Tamo sam upoznao ljude koji dijele isti osjećaj hitnosti."
Nakon treće godine postaje intern u METR-u, organizaciji koja se bavi procjenom rizika umjetne inteligencije. "Mi smo nešto poput sigurnosnih inspektora za AI industriju." Danas tamo radi kao istraživač. "Problem je što je znanost sigurnosti umjetne inteligencije još uvijek vrlo mlada. Puno toga radimo na granici znanstvenog znanja."
Sudjelovao je u nekoliko važnih znanstvenih radova. U radu "Measuring AI Ability to Complete Long Tasks" je pokazao da se duljina zadataka koje AI može samostalno izvršavati udvostručuje otprilike svakih šest mjeseci. "Ako danas sustav može raditi četiri sata, za par godina govorimo o zadacima koji ljudima traju godinama." Radio je i na testu RE-Bench koji mjeri sposobnost umjetne inteligencije da sama sebe poboljšava. Kao dio sigurnosne evaluacije, METR je imao rani pristup GPT-5. "Procjenjivali smo njegove rizike iz više kutova."
Naš Nikola upozorava da javnost još uvijek ne shvaća brzinu niti opseg ovih promjena. "Vrlo je moguće da će umjetna inteligencija prije kraja desetljeća biti sposobnija od svakog čovjeka u svakom aspektu." Uspoređuje situaciju s prvim kontaktom s izvanzemaljcima. "Zamislite da znamo da dolazi civilizacija pametnija od nas, a da se nitko ne priprema." Posebno ga brine logika tržišne utrke. "Kad AI firme dođu do ljudske razine, plan je automatizirati vlastite poslove, pa potom ostatak svijeta." Smatra da će većina današnjih radnih mjesta nestati prije 2040. godine. "To nije politička izjava, to je ekstrapolacija trendova."
"Stvaranje nadljudske umjetne inteligencije bit će najvažniji događaj u povijesti", kaže. "Prve takve inteligencije će u velikoj mjeri diktirati budućnost." Ključno pitanje, prema njemu, jest lojalnost. "Hoće li biti lojalne jednom čovjeku, jednoj državi, cijelom čovječanstvu ili samo sebi." Rješenje vidi u međunarodnoj suradnji. "Treba nam globalni projekt, nešto poput CERN-a." Na naše pitanje o utrci velesila u razvoju umjetne inteligencije, odgovorio nam je: "Ako se ide logikom tko prvi, posljedice mogu biti katastrofalne. Taj scenarij i mene plaši."
No čak i u optimističnom scenariju, pitanja ne nestaju. "Ako preživimo tranziciju, dolazi pitanje smisla." Što će ljudi raditi u svijetu bez rada. Kako će izgledati društvo. Kako će se promijeniti ljudska priroda. "To nisu pitanja za kasnije. To su pitanja za sada." Zato Nikola poziva na širu uključenost. "Ovo nije problem samo za programere i znanstvenike." U raspravu, kaže, moraju biti uključeni političari, pravnici, filozofi, ekonomisti. "Ako ovu tranziciju ne navigiramo mudro, tehnologija nam neće ostaviti drugu priliku."
Otvori KEKS Pay
Isključiš sklopku i eto t'