Filippo Pacelli nacque a Roma nel 1837, figlio secondogenito di Marcantonio Pacelli e Giuseppa Veccia Scavalli.
Da giovane, grazie alla posizione politica acquisita dal padre presso la Santa Sede al servizio di Pio IX, intraprese la carriera forense divenendo avvocato concistoriale e venendo successivamente assunto presso il tribunale della Sacra Rota. Si conquistò in seguito la posizione di decano degli avvocati della Santa Sede e perorò la causa di canonizzazione del passionista Gabriele dell'Addolorata che però venne portata a termine solo nel 1920, quattro anni dopo la sua morte.
A differenza del padre, intransigente cattolico, egli si dimostrò più aperto anche verso le istituzioni non religiose e come tale fece parte, previo permesso del pontefice, del consiglio comunale della città di Roma.