Jay Baruchel wurde als Sohn von Serge Baruchel, einem Antiquitätenhändler, sowie Robyne Baruchel, einer Schriftstellerin, in Ottawa geboren; er hat eine jüngere Schwester, Taylor. Während sein Vater Jude ist, ist seine Mutter eine aus Irland stammende Katholikin. Jay selbst wurde im jüdischen Glauben erzogen.
Baruchel steht seit seinem 13. Lebensjahr vor der Kamera; sein Debüt als Schauspieler erfolgte 1995 in der kanadischen Fernsehserie Are You Afraid of the Dark? Zwischen 1997 und 1998 moderierte er außerdem an der Seite von Elisha Cuthbert die für Kinder konzipierte Fernsehsendung Popular Mechanics for Kids.
Seitdem konnte Baruchel sowohl für kanadische als auch für US-amerikanische Filme und Fernsehserien verpflichtet werden, so 2004 in Million Dollar Baby.