Knudsen werd opgeleid aan de tekenacademie van zijn geboorteplaats Kristiania, verliet die zonder diploma en studeerde een jaar aan de Königliche Technische Hochschule in Berlijn. Hij werkte in verschillende architectenateliers, onder meer aan de heropbouw van Skien na de stadsbrand van 1886. Daarna werkte hij vanaf 1890 in Orkanger voor de firma M. Thams & Co, die houten prefabconstructies realiseerde tot ver in het buitenland. De energieke bedrijfsleider Christian Thams was architect van opleiding. Met en voor hem herbouwde Knudsen het familiekasteel Bårdshaug in romantische stijl en ontwierp hij het jachthuis Fjeldheim, alsook de zes treinstations op de Thamshavnbanen. Ondertussen was hij in 1897 teruggekeerd naar Kristiania om er leraar en bouwinspecteur te worden. In 1901-1902 tekende hij enkele stations op de Hovedbanen (Bryn, Alna en Strømmen).