Mandel ist der Sohn von Al Mendel und Evy Mandel und wurde in Toronto geboren und wuchs in der Gegend von Willowdale in Toronto, Ontario, auf. Seine Vorfahren sind aus Rumänien und Polen eingewanderte Juden. Er ist ein entfernter Cousin des israelischen Geigers Itzhak Perlman.
Sein Vater Al Mendel war ein Hersteller von Beleuchtung und Immobilienmakler.
Mandel besuchte das „William Lyon Mackenzie Collegiate Institute“, wo er von der Schule verwiesen wurde, weil er sich als Schulbeamter ausgab
und eine Baufirma beauftragte, einen Anbau an die Schule zu bauen. Danach arbeitete er als Teppichverkäufer. Er war Stand-up-Comedian in dem
Yuk Yuk's in Toronto, und im September 1978 wurde er für eine Woche als Hauptdarsteller gebucht, der als „ein wilder und verrückter Borderline-Psychotiker“ bezeichnet wurde.
Zu seinem Repertoire gehörte es, sich einen Latexhandschuh über den Kopf zu ziehen und ihn durch Pusten durch die Nase aufzublasen, wobei die
Finger des Handschuhs wie ein Hahnenkamm über seinen Kopf ragten. Wenn das Publikum auf diese und ähnliche Possen lautstark reagierte, war es
sein Markenzeichen, die Arme mit den Handflächen nach oben auszustrecken, ungläubig zu schauen und zu sagen: „Du bist es“.
Auf einer Reise nach Los Angeles trat Mandel im „Comedy Store“ auf, was dazu führte, dass er als regelmäßiger Darsteller engagiert wurde. Ein
Produzent der Comedy-Show „Make Me Laugh“ sah ihn dort und buchte Mandel für mehrere Auftritte während der Laufzeit der Show in den Jahren 1979
und 1980. Im Sommer 1979 wurde er als Vorgruppe für David Letterman gebucht.
Der Leiter des Varietéprogramms von CBC-TV sah seinen Auftritt im Oktober 1979 und verpflichtete ihn sofort für ein TV-Special. 1980 erhielt
er die Hauptrolle in dem kanadischen Film „Gas“, in dem Susan Anspach und Donald Sutherland mitspielten. Mandel war einer der ersten „VeeJays“, die in der Musikvideoserie „PopClips“ von Nickelodeon auftraten.
Seit 2010 ist er Juror bei America’s Got Talent, seit 2022 auch bei Canada’s Got Talent. Seit 2005 moderiert er die US-amerikanische Spielshow Deal or No Deal, im Jahr 2007 zudem das kanadische Pendant Deal or No Deal Canada. Seit 2022 ist er Moderator der Netflix-Show Bullsh*t the Game Show.