Após a guerra, Johnson voltou para a Câmara dos Representantes. A legislação o nomeou para o Senado em 1819 para preencher o assento vago deixado por John J. Crittenden. Enquanto sua proeminência crescia, sua relação inter-racial com Julia Chinn, uma escrava quadroon, foi amplamente criticada. Isso prejudicou suas ambições políticas; diferentemente de outros líderes da classe alta que tinham amantes afro-americanas, Johnson abertamente tratava Chinn como sua esposa. Ele reconheceu as duas filhas que teve com ela, dando-lhes seu sobrenome, para grande consternação de alguns de seus constituintes. Acredita-se que a relação o fez perder o assento no Senado em 1829, porém voltaria a câmara no ano seguinte.[1]
Em 1836, Johnson foi o candidato Democrata para vice-presidente junto com Martin Van Buren.[1] Fazendo campanha com o slogan "Rumpsey Dumpsey, Rumpsey Dumpsey, Coronel Johnson matou Tecumseh", ele teve pouco menos do número necessário de votos do Colégio Eleitoral para ser eleito.[1] A delegação da Virgínia foi contra a eleição e recusou-se a apoiar Johnson. Entretanto, ele chegou ao cargo através do Senado, que era dominado por Democratas.[1]
Johnson mostrou-se um peso-morto para os Democratas a ponto do partido recusar-se nomeá-lo para a reeleição em 1840. Van Buren concorreu sem um running mate, perdendo para Harrison. Johnson tentou voltar para um cargo público mas foi derrotado. Ele finalmente foi eleito para a Câmara dos Representantes do Kentucky em 1850, morrendo em 19 de novembro de 1850, duas semanas após o início do mandato.