Knudsen debuterade 1902 som Tabarin på Den Nationale Scene och hade senare stora dramatiska roller, som titelrollerna i Henrik Ibsens pjäser Brand och Peer Gynt och Paul Lange i Bjørnstjerne BjørnsonsPaul Lange och Tora Parsberg. På Fahlstrøms teater (från 1907) och Nationaltheatret (1911–1940) utvecklades han till en skarp och klok karaktärskomiker. I den klassiska komedin skapade han ypperliga figurer hos Shakespeare och Ben Jonson. Hans mästerverk var Celius i Nils KjærsDet lykkelige valg, en uppgift som han gick in för med munter och mänsklig konst. Varianter av denna typ gjorde han som Helmer och Hjalmar Ekdal hos Ibsen och som statsråd Stabel i Johan Ludvig HeibergsTante Ulrikke. Större värme och bredd hade hans Bjørnson-figurer, som Tjælde i Ett handelshus. Hans sista stora roll var kammarherren i Ibsens De ungas förbund (1950).
Knudsen spelade mellan 1925 och 1948 i flera filmer.