John Alexander war der Sohn eines Dampfschiffbesitzers und einer Telegrafistin. Er war ein Kinderschauspieler, nach einigen Angaben war bereits 1902 als Vierjähriger in The Children of Kings am Broadway zu sehen[1], und 1909 spielte er in der Titelrolle des Theaterstückes Elmer Brown, the Only Boy in Town.[2] In den folgenden Jahrzehnten etablierte er sich als Theaterschauspieler, zum Filmgeschäft kam er dagegen erst im mittleren Alter.
Bleibende Bekanntheit sicherte sich Alexander vor allem durch Frank Capras Komödienklassiker Arsen und Spitzenhäubchen (1944), in dem er sich in der Rolle des geistig verwirrten Teddy Brewster für den US-Präsidenten Theodore Roosevelt hält und dessen Angewohnheiten annimmt. Die Rolle des Teddy Brewster hatte Alexander bereits zuvor mit großem Erfolg am Broadway gespielt und sollte sie auch nach der Verfilmung noch mehrfach auf der Bühne spielen. Im Film Der Graf von Mexiko durfte er dann 1950 neben Bob Hope auch den „echten“ Theodore Roosevelt verkörpern.[3] Alexander war insbesondere in Filmkomödien zu sehen, aber gelegentlich auch in ernsteren Genres wie als Verehrer von Bette Davis’ Hauptfigur in Das Leben der Mrs. Skeffington (1944) oder als Barmann in dem Westernklassiker Winchester ’73 (1950) neben James Stewart.
Die 1940er-Jahre waren die aktivste Dekade von Alexander in Hollywood, doch das Theater blieb sein eigentliches Metier. Schon in den 1950er-Jahren wandte sich Alexander wieder der Bühne zu. Gelegentlich absolvierte er auch Auftritte in der Fernsehindustrie, die in den 1950ern noch in New York ihr Zentrum hatte. Zuletzt stand er 1962 für Fernsehserie Car 54, Where Are You vor der Kamera. Mitte der 1960er-Jahre klang seine Karriere mit Auftritten in Bühnenstücken und Musicals aus, im Laufe der Jahrzehnte hatte er in über zwei Dutzend Broadway-Produktionen gespielt.[3][1]
Von 1928 bis zu ihrem Tod war er mit der Bühnenschauspielerin Genevieve Hamper (1888–1971) verheiratet. John Alexander starb 1982 im Alter von 84 Jahren, als er an dem Vorstandstreffen des Actors Fund of America in New York teilnahm.[2]