Costruita durante il periodo repubblicano dell'epoca romana, era ricavata nella cinta delle mura romane di Milano. Venne fatta presumibilmente erigere, insieme alle mura, da Cesare dopo l'assunzione di Mediolanum al rango di municipium nell'anno 49 a.C., oppure in seguito da Ottaviano. Doveva la sua denominazione a Giovio, ovvero all'epiteto dell'imperatore Diocleziano.
L'intitolazione di Porta Giovia è legata all'orientamento degli edifici nel foro romano di Milano. In particolare, fu il Capitolium, che era dedicato alla Triade Capitolina, a dare alla toponomastica della Mediolanum dell'epoca, quando la città divenne capitale dell'Impero d'Occidente: dato che nel gruppo scultoreo principale del Capitolium, Giove era seduto al centro, con Minerva alla sua destra e Giunone a sinistra, fu deciso di destinare il castello difensivo nord occidentale, che si trovava alla destra del Capitolium, alla funzione di Castra Praetoria, ovvero a sede dei pretoriani, che erano un reparto militare che svolgeva compiti di guardia del corpo dell'imperatore (Minerva è infatti anche la dea della lealtà durante la lotta): la porta verso cui si accedeva a questo castello (che era esterno alle mura cittadine come gli altri tre) fu poi chiamata Porta Giovia.