Šimunić va nàixer en Canberra, Austràlia d'una família d'immigrants croats. Va rebre un entrenament primerenc a l'Institut Australià de l'Esport. El defensa entrà en el primer equip dels Melbourne Knights com adolescent en la temporada 1995–96 i va acabar amb una medalla del campionat i amb el premi de Jugador Jove de l'Any de la NSL en 1996. Šimunić va marcar els seus primers gols al següent període, tres en 14 aparicions, abans d'anar-se a Europa per signar pel Hamburger SV el 1998.[2]
Šimunić va ser transferit al Hertha BSC en 2000 després d'una discussió amb el tècnic de l'Hamburg, Frank Pagelsdorf, i des de llavors se convertí en un membre integral de l'equip comptant amb aparicions ocasionals en la Copa de la UEFA. En la Copa del Món declarà en la SBS television que desitjaria tornar a Austràlia després de concloure la seua carrera a Europa. Al final de la temporada 2008–09, Šimunić va ser designat el millor defensa central de la Bundesliga per la revista Kicker.[3] El Hertha acabà en el quart lloc eixa temporada, amb una defensa que només concedí 41 gols, empatats en el tercer lloc de la lliga amb el VfL Wolfsburg.
Šimunić va ser educat en l'Institut Australià de l'Esport (AIS), però ell va decidir de no jugar per Austràlia, per jugar en lloc el futbol internacional pel país dels seus pares, per patrimoni i ciutadania dual croata l'octubre del 2001, fent el seu debut internacional en un partit amistós contra la Corea del Sud el 10 de novembre del 2001.