Hans föräldrar var William Stiller, New York-född son till österrikisk-judiska invandrare, och Bella Citrin, en rysk-judisk immigrant. Jerry är deras enda barn.
Stiller var gift med Anne Meara (född 1929) från år 1954 fram till hennes död 2015. Stiller och Meara bildade under 1960- och 70-talet komikerduon Stiller & Meara. De var återkommande gäster hos The Ed Sullivan Show och The Tonight Show med Johnny Carson.
För de yngre generationerna är han mest känd som George Costanzas far "Frank Costanza" i komediserien Seinfeld. Han spelar även rollen som "Arthur Spooner" i TV-serien Kungen av Queens.
Han är far till skådespelarna Ben Stiller och Amy Stiller.
