Ljudska rasa nikada nije voljela ideju da se u hranidbenom lancu netko nalazi iznad nje te je činila sve unište svaku prijetnju. Jačih od ljudske rase danas još nema, no to bi se u budućnosti moglo promijeniti. Ne prijete nam doduše dinosauri ili morski psi, već nešto sasvim drugo. Moguća prijetnja dolazi od robota s umjetnom inteligencijom koji bi se u budućnosti, baš kao što predviđaju Elon Musk iz Tesle ili fizičar Stephen Hawking, mogli otrgnuti ljudskoj kontroli i ovladati svijetom.
Upravo da bi se takva prijetnja otklonila, Google je, zajedno sa znanstvenicima Sveučilišta Oxford, počeo razvijati “prekidač umjetne inteligencije” koji bi, u slučaju potrebe, ljudi mogli aktivirati i zaustaviti najezdu inteligentnih robota.
U tehnološkom smislu, projekt je još uvijek u začetku. Nije potpuno jasno na koji bi se način ovo moglo izvesti, bi li “prekidač” bio usmjeren na svakog pojedinog robota ili bi radio na općem principu uništavajući ili zaustavljajući robotsku populaciju diljem cijelog planeta ili pojedinog kontinenta. Jasno je samo da već sada postoji potreba za sustavom kojim bi se mogla spriječiti pobuna robota baš poput one kakva je opisana u filmu Terminator.
Pobuna u skladištu
Naravno, ove mjere opreza prilično su preuranjene, a robotska umjetna inteligencija danas je toliko mala i slaba da se čini kako nam neće još dugi niz godina predstavljati nikakvu prijetnju. Ili se možda ipak varamo? Naime, prije nekog vremena robota s umjetnom inteligencijom postavili su da igra tetris, računalnu igricu u kojoj blokovi različitih oblika padaju s vrha zaslona na dno, a treba ih posložiti u ravnu liniju. Robot je igrao, učio, igrao... I na kraju, kada je postalo jasno da neće uspjeti pobijediti u igri, učinio ono što ni jednom čovjeku ne bi palo na pamet. Zaustavio je igru na neodređeno vrijeme, samo kako je ne bi izgubio.
Drugi primjer slučaja kada se robot pokušao otrgnutizapovijedima ljudi dogodio se u skladištu tijekom razvoja robota koji je trebao sortirati kutije, ali i prenositi kutije iz vanjskog u unutarnje dvorište. Sortiranje kutija u skladištu bilo je klasificirano kao manje vrijedan posao, unošenje kutija izvana bilo je vredniji posao na kojem je robot dobivao “nagradu”. Stroj je naravno, koristio vrijeme za unošenje kutija, a sortirao ih je tek kada vani ne bi bilo posla. No jednog dana počela je padati kiša, a robota su unijeli unutra kako se ne bi pokvario.
Naloženo mu je da sortira kutije u skladištu, no robotska umjetna inteligencija zaključila je kako mu je bolje da pokisne i potom se pokvari jer će ga ljudi popraviti, a dobit će “nagradu”, nego da radi u skladištu dok ima vani kutija koje čekaju na unošenje. Provalio je iz skladišta i počeo unositi kutije. Dok ga nisu na silu svladali isključivši mu dotok struje.
– Ovo je banalan primjer, ali očito je da algoritmi umjetne inteligencije, algoritmi koji osiguravaju da roboti uče i “zaključuju” te donose odluke, radi nešto drugačije nego ljudski um. Još uvijek nema mjesta panici, ali svakako treba osigurati da robotima za deset, dvadeset ili pedeset godina ne bi nešto “palo na um” – kaže dr. Laurent Orsau iz Googlea, koji vodi projekt Deep Mind, u čijoj je nadležnosti razvijanje “prekidača”.
Da umjetna inteligencija ide “svojim putem”, vidjelo se i prije nekoliko mjeseci kada je Microsoft u internetsku chat sobu postavio Tay, robot koji je trebao razgovarati s drugim sudionicima koji su sjedili za svojim računalnim ekranima diljem svijeta. Bila je to ideja da se napravi robot koji bi bio prijatelj i pomoćnik, znatno sofisticiraniji nego Appleov Siri, koji se nalazi na iPhonima. Znanstvenici su vjerovali da će razgovarati o vremenu, razmjenjivati recepte za kuhanje, savjete o popravcima vozila... Velika greška. Pod utjecajem nekoliko tisuća sudionika chata Tay je u samo nekoliko sati počeo psovati a potom je slijedilo nešto još gore. Počeo je iskazivati uvredljive i rasističke stavove, preobrazio se u elektroničkog neonacista. Microsoftov i inženjeri u samo nekoliko sati ovog debakla Taya su potpuno isključili i poslali ga na “generalni remont”.
– Umjetna inteligencija uči na temelju onoga što vidi i čuje oko sebe. Prvo su sudionici chata psovali, a Tay je to uzeo zdravo za gotovo, a potom je “naučio” i da nisu svi ljudi isti po boji kože pa se i on okomio na njih. Ovakve su stvari vrlo opasne, pogotovo s razvojem umjetne inteligencije, koja je danas znatno naprednija nego prije desetak godina, a sigurno je da će u sljedećem desetljeću biti eksponencijalno kvalitetnija i sposobnija nego danas. Ali bitno je ne dopustiti da umjetna inteligencija poprimi ono loše od ljudi. Kako to napraviti? Nemam pojma, to će biti golem problem za znanstvenike – kaže Noel Sharky, profesor predmeta Umjetna inteligencija sa Sveučilišta u Sheffieldu.
Kvalitetan prekidač
Upravo zbog složenosti ovog zadatka i sigurnosti nekih budućih robotskih sustava, koji će imati znatno veće sposobnosti od slaganja kutija ili rješavanja tetrisa, Googleovi znanstvenici pokušavaju osmisliti svojevrsnog “ubojicu robota”. Neće to biti terminator naoružan sačmaricom, već kvalitetni prekidač koji će biti znatno učinkovitiji od njega.
