Frå 1949 var han var vald inn på Stortinget som representant frå Bergen, og møtte fast fram til han døydde i 1967. Langhelle hadde allereie frå 1945 til 1949 vore vararepresentant frå sitt distrikt - og knytt nære kontaktar til Einar Gerhardsen. I 1945 blei han arbeidsminister i den første regjeringa Gerhardsen. Frå 1946 blei han utnemnd som samferdsleminister, ein post han hadde fram til 1952 då han blei forsvarsminister. Mellom 1954 og 1955 var han handels- og skipsfartsminister.
Langhelle blei vald til visepresident i Stortinget i 1955, eit verv han også hadde mellom 1965 og 1967. Då Oscar Torp døydde i 1958, blei Langhelle Stortingspresident. Det vervet hadde han fram til 1965. Nils Langhelle var òg medlem av Nobelkomiteen frå 1964 og fram til han døydde. Han var varaformann for komiteen i perioden 1965 til 1966 og formann frå 1967.
