Rođen je 25. svibnja 1959. u Zadru. Odrastao je u mjestu Kruševo kod Obrovca, gdje je pohađao osnovnu školu.
Karamarkov otac preživio je križni put. Nakon završetka Drugog svjetskog rata dugo nije mogao naći posao, a onda se kao vozač zaposlio u jednom zadarskom prijevozničkom poduzeću. Vozio je na relaciji Zadar-Zagreb.
Obitelj se potom seli u Zagreb u naselje Peščenicu gdje završava srednju školu. Diplomirao je povijest na Filozofskom fakultetu u Zagrebu. Kao dvadesetogodišnjak priključuje se Katoličkom zboru MI koji je okupljao mlade vjernike. Pod optužbom za kleronacionalizam tadašnje komunističke vlasti oduzimaju mu 1982. putovnicu. Vraćena mu je tek 1989. godine.
Zaposlio se 1987. u Državnom arhivu kao arhivist povjesničar na odjelu za tzv. Kaptolski depozit. Dvije godine kasnije sudjeluje u osnivanju zagrebačke podružnice Hrvatske demokratske zajednice. Aktivno djeluje u pripremi prvih višestranačkih izbora.
Nakon pobjede HDZ-a 1991. postaje šef kabineta predsjednika vlade Josipa Manolića, a potom i Franje Gregurića.
Uskoro prelazi na dužnost šefa kabineta tadašnjeg predsjednika Sabora Stjepana Mesića. 1993. Imenovan je načelnikom Policijske uprave zagrebačke gdje pokreće prve istrage zbog korupcije u privatizaciji. Od 1996. do 1998. pomoćnik je ministra unutarnjih poslova.
Bio je voditelj izbornog stožera u kampanji kasnijeg hrvatskog predsjednika Stjepana Mesića. Nakon njegove pobjede, postaje savjetnik za nacionalnu sigurnost u Uredu Predsjednika. 2002. razilazi se s Mesićem i odlazi u privatni sektor.
Među osnivačima je tvrtke Soboli koja je pružala konzultantnske usluge u resoru sigurnosti i osiguranja objekata. Ta tvrtka je poslovala i s državnim tvrtkama pa ga se kasnije često prozivalo zbog mogućeg sukoba interesa, što je on odbacivao.
Kada 2004. dolazi na čelo Protuobavještajne agencije (POA), svoja vlasnička prava prenosi na odvjetnički ured, a 2005. izlazi iz tog poduzeća. Slijedeće godine preuzima Sigurnosno-obavještajnu agenciju.
Nakon pogoršanja sigurnosnog stanja u Zagrebu zbog nekoliko ubojstava u središtu grada 2008. , tadašnji premijer Sanader poziva ga u vladu i postaje ministar unutarnjih poslova. Tu dužnost obnaša i u mandatu Jadranke Kosor.
U tom razdoblju pokreću se istrage zbog korupcije i organiziranog kriminala pa je tako i bivši premijer Sanader završio na optuženičkoj klupi. Pokrenuo je i istrage protiv komunističkih zločina nakon završetka Drugog svjetskog rata, ali nisu završile pokretanjem sudskih procesa. Tadašnja oporba, SDP, prozivala ga je da konstruira gospodarske afere protiv nekih njihovih članova.
Predsjednica HDZ-a Jadranka Kosor poziva ga da se učlani u HDZ i u rujnu 2011. uručuje mu stranačku iskaznicu. Na parlamentarnim izborima 2011. osvaja saborski mandat.
Nakon poraza HDZ-a na izborima, kandidira se za predsjednika te stranke na XV. Izbornom saboru. U drugom krugu 20. svibnja 2012. pobjeđuje protukandidata Milana Kujundžića i postaje četvrti predsjednik HDZ-a. Nakon nešto manje od godinu dana izbacuje Jadranku Kosor iz stranke.
Iako mu, politički analitičari, nisu predviđali dug ostanak na tom mjestu, na izborima za Europski parlament lista predvođena HDZ-om i HSP-om Ante Starčevića osvaja većinu mandata, a solidan rezultat ostvaruju i na lokalnim izborima. Stranačka oporba koja je najavljivala njegovu smjenu zbog toga se utišala. Međutim, u anketama popularnosti redovito predvodi listu najnepopularnijih političara. Najavio je da će na jesen 2013. tražiti prijevremene izbore.
S obzirom da je dugo radio u obavještajnom sektoru, o njegovu privatnom životu malo se zna. Javnost je tako saznala da je razveden tek godinu dana nakon njegovog razvoda. S bivšom suprugom Enisom, kćerkom bivšeg hrvatskog ministra znanosti Osmana Muftića, ima dvoje djece - kćer Lanu i sina Martina. Enisa radi u Ministarstvu vanjskih poslova na dužnosti načelnice Odjela za Afriku i Bliski istok. S djecom se pojavio u medijima u prigodi sinove krizme u crkvi Presvetog srca Isusova u Palmotićevoj ulici u Zagrebu.
Karamarko je već dulje vrijeme u vezi s Anom Šarić, a prvi put u javnsoti su se pojavili u Puli tijekom ljeta 20013.
Moj Karamarko ,znadete zašto ljubitelji petokrake pošto poto žele vlast ,a drugi neka rade ,jer su oni kako kažeRefko Mujkić iz Lud ,zbunjen perverzirani da vladaju ,a ne izverzirani .Naš Predsjednik i naša vlada su vrlo perverzirani. A onaj kandidatonaj kandidat koji obečava 16 satno radno vrijeme ,baš je perverziran u radničkim pravima ,i takav nam , treba da radnici rade 16 sati i to bez plače ,a tko neće neka ode . O ljudi , o Turci tko je tu lud ,zbunjen?