Als Mitglied der Marx Brothers trat er in den 1920er, 1930er und 1940er Jahren in mehreren Filmkomödien auf. Seine Markenzeichen waren die (rote) Perücke, sein Harfenspiel und die Tatsache, dass er vor der Kamera nicht sprach und sich stattdessen mit Hupen und Pfeifen verständlich machte. Grund dafür soll ein Kritiker gewesen sein, der Harpo in der Vaudeville-Zeit der Komikergruppe ein brillantes pantomimisches Talent attestiert hatte, das erheblich an Faszination verlöre, sobald er Text spreche. Harpo ließ sich nur widerwillig von dieser Beschneidung seiner Möglichkeiten überzeugen, drohte zunächst sogar mit dem Verlassen der Gruppe, arrangierte sich dann aber mit der Situation und wurde zu einem „Stummfilmstar der Tonfilmära“. In dem Stummfilm Too Many Kisses kann man ihm den einzigen Satz von seinen Lippen lesen: „You sure you can’t move?“
Ebenso gehörte eine musikalische Einlage an der Harfe zum Standard-Repertoire. Über die Harfe (engl. „harp“) kam er zu seinem Künstlernamen. Harpo hatte das Harfespiel autodidaktisch erlernt – ebenso das Lesen und Schreiben. Die Schule hatte er bereits nach der zweiten Klasse verlassen.
Neben den unten aufgeführten Filmen mit den übrigen Marx-Brothers trat er in einer Reihe anderer Filme auf, die aber nicht die Bekanntheit der Marx-Brothers-Filme erreichten und heute zum Teil verschollen sind.
Harpo Marx heiratete am 28. September 1936 Susan Fleming, mit der er vier Kinder adoptierte: Bill, Alex, Jimmy und Minnie. Drei Jahre vor seinem Tod im Jahr 1964 brachte er seine Autobiographie Harpo spricht! heraus. Am 28. September 1964, seinem 28. Hochzeitstag, verstarb Harpo Marx an den Folgen einer Herzoperation im New Yorker Mount Sinai Hospital. Er wurde 75 Jahre alt. Seine Witwe Susan starb am 22. Dezember 2002 im Alter von 94 Jahren.
Grouchos Sohn Arthur Marx erzählte später, dass er seinen Vater auf Harpos Begräbnis das einzige Mal habe weinen gesehen. Harpo vermachte seine berühmt gewordene Harfe dem Volk Israel.[1]
Harpo Marx, Rowland Barber: Harpo speaks! Geis Associates, New York NY u. a. 1961 (Autobiografie; deutsch: Harpo spricht! Aus dem Amerikanischen von Werner Horch. Rogner und Bernhard bei Zweitausendeins, Hamburg 1989, ISBN 3-8077-0232-6).