Aos 15 anos Bert abandonou a escola, para entrar pro teatro Vaudeville juvenil, até entrar para o teatro burlesco. Em 1927 estreou na Broadway, onde fez uma série de espetáculos de sucesso.
Em 1931 fez sua estréia em Hollywood no filme Flying High. Seu maior sucesso no cinema foi no papel de Leão Covarde no filme The Wizard of Oz (1939). Fez participações em filmes e programas de tv. Mas o teatro foi onde mais brilhou, chegando a ganhar um prêmio Tony de melhor ator de musical por Foxy, em 1964.