Ha iniziato gli studi per il sacerdozio nel 1993 al seminario dell'Assunzione di San Antonio e li ha completati con un Master of Divinity presso la Oblate School of Theology della stessa città.[1][2]
Partito:[7] al primo[8] d'argento, alla fascia ondata d'azzurro, al capo merlato di rosso, al cuore coronato d'oro, ferito di rosso, addestrato e sinistrato da due rose d'argento; al secondo, troncato in cappa[9]: al I d'oro al giglio d'azzurro nascente, accostato da due foglie di palma di verde; al II d'azzurro, al bisante d'argento, bordato d'oro, raggiante di 28 raggi diritti dello stesso, caricato del chrismon dello stesso.
^(EN) Stemma di monsignor Stephen Jay Berg, su dioceseofpueblo.org. URL consultato il 10 novembre 2020 (archiviato dall'url originale il 17 novembre 2020).
^Secondo la tradizione araldica ecclesiastica dei paesi anglosassoni, lo stemma del vescovo è impalato con quello della diocesi a simboleggiare la relazione tra l'uomo e l'ufficio che ricopre.
^Stemma della diocesi di Pueblo. Esso fu ideato nel 1941, quando papa Pio XII eresse la diocesi. Il muro merlato simboleggia il vecchio Fort Pueblo e la fascia ondata rappresenta il fiume Arkansas che attraversa la città. Il Sacro Cuore di Gesù indica la cattedrale diocesana ed è affiancato da due rose, quella a sinistra rappresenta Maria nel suo titolo di "Rosa mistica", quella a destra rappresenta Santa Teresa di Lisieux, detta "il piccolo fiore", patrona principale della diocesi.
^La troncatura suggerisce sottilmente il picco di una montagna. Infatti "Berg" in svedese significa "montagna". Il giglio indica le origini francesi del vescovo. Le fronde di palma rimandano al simbolo principale dei martiri. In questo caso la prima foglia di palma ricorda Santo Stefano, il santo patrono del vescovo Berg. La seconda foglia di palma rappresenta l'orticoltura e l'agricoltura, un settore caro al nuovo vescovo e alla sua famiglia. L'azzurro onora la Beata Vergine Maria. Il bisante rimanda all'ostia e i raggi simboleggiano le grazie che il Sacramento dell'Eucaristia spande sui credenti. Il sole è più in generale un simbolo cristologico. Questo simbolo posto su un campo mariano azzurro riunisce il Figlio di Dio e sua Madre, in quanto Maria conduce sempre i suoi devoti a suo Figlio.
^La croce episcopale è nota come croce angelica. All'interno dei bracci della croce, sia orizzontali sia verticali, si trovano sottili incisioni di ali dorate. Le ali sono molto sottili, ma rendono comunque un omaggio speciale. Si diceva che Santa Cecilia, la patrona dei musicisti di musica sacra, ma anche dei musicisti di musica profana, fosse così vicina alla perfezione, così vicina al Cielo mentre era sulla terra, che poteva sentire i cori degli angeli cantare tutto il giorno. E così, per onorare l'amore del vescovo per la musica, in particolare per il pianoforte, l'omaggio a Santa Cecilia è stato inserito nella forma della sua vicinanza a Dio e ai suoi angeli nella loro adorazione. Al centro della croce processionale vi è una pietra azzurra, che rimanda alla stella del Texas, lo Stato dove ha prestato servizio come presbitero, e alla stella di Betlemme. La scelta di questa pietra azzurra onora ulteriormente il Texas, in quanto il fiore di Stato è una specie del genere Lupinus, un piccolo fiore di tonalità azzurro intenso.
