Thielen pályafutása során egyetlen csapatban, a német1. FC Köln csapatában futballozott. Kétszeres nyugatnémet bajnok, tagja volt annak a kölni csapatnak amely a Bundesliga történetének első bajnoki címét nyerte meg 1964-ben. 1968-ban német kupagyőztes lett a csapattal. 1963 és 1973 között összesen kétszázhuszonegy Bundesliga mérkőzésen lépett pályára és ötvenhat gólt szerzett.[1] 1963. december 7-én a Kaiserslautern elleni találkozón ő lett az első játékos a Bundesliga történetében, akinek sikerült legalább öt gólt szereznie egyetlen mérkőzésen.[2]