Dunn war ein Cousin der Schauspielerin Gretchen Franklin. Seine berufliche Karriere begann er in den 1930ern in kleineren Filmrollen. Im Zweiten Weltkrieg wurde er in die Armee einberufen und geriet in vierjährige Kriegsgefangenschaft.
Schließlich wurde Dunn 1968 für die Rolle des Jones in Dad’s Army verpflichtet, einer Komödie, die die Geschehnisse in der fiktionalen Kleinstadt Walmington-on-Sea an der britischen Südküste während des Zweiten Weltkriegs erzählte. Dunns Rolle war die eines älteren Metzgers, der bereits unter Kitchener im Sudan gedient hatte (obgleich er selbst zum Serienbeginn erst 48 Jahre alt war). Die Erfahrungen, die er damals sammeln konnte, machten ihn zum erfahrensten Mitglied der Home Guard des Ortes, aber auch zum wirrköpfigsten. Nach neun erfolgreichen Jahren lief die Serie 1977 aus.
Zwei Jahre später tauchte Dunn in der FernsehserieGrandad in einer ähnlichen Rolle auf. In dieser Serie hatte Dunn bereits 1971 begleitet von einem Kinderchor die Spitze der britischen Singlecharts erreicht.
Während der 1980er zog sich Dunn nahezu vollständig vom Bildschirm zurück. Die letzten drei Jahrzehnte seines Lebens verbrachte er in Portugal, wo er sich als Landschaftsmaler betätigte.