Klijn studeerde theologie aan de universiteit van Utrecht, waar hij in 1949 promoveerde. In 1951 werd hij hervormd predikant in Heinkenszand. Vier jaar later werd hij wetenschappelijk medewerker aan de Universiteit van Utrecht.
In 1967 werd hij aan de Rijksuniversiteit Groningen tot hoogleraar oudchristelijke letterkunde en uitleg van het Nieuwe Testament benoemd. Klijn werd vooral bekend door zijn boek over het ontstaan van het Nieuwe Testament. Daarnaast publiceerde hij vertalingen in het Nederlands met uitvoerige toelichting van de Apostolische Vaders en van de Apocriefen van het Nieuwe Testament, waardoor deze geschriften toegankelijk werden voor het brede publiek. Verder schreef hij in de reeks De prediking van het Nieuwe Testament commentaren op enkele nieuwtestamentische brieven.
Bibliografie
A survey of the researches into the western text of the Gospels and Acts, Kemink, Utrecht, 1949; deel 2, Brill, Leiden, 1969
Na het Nieuwe Testament; de christelijke literatuur uit de tweede eeuw, Ten Have, Baarn, 1973, ISBN 9025940366
Seth in Jewish, Christian and Gnostic Literature, Brill, 1977 ISBN 9789004052451
De wordingsgeschiedenis van het Nieuwe Testament, Spectrum, Utrecht, 1965, 1983 ISBN 9027449066
Apostolische Vaders 1; vertaald, ingeleid en toegelicht, Kok, Kampen 1981, ISBN 9024201675
Apostolische Vaders 2; Vertaald, ingeleid en toegelicht, Kok, Kampen, 1983, ISBN 9024222516
Apokriefen van het Nieuwe Testament I; vertaald, ingeleid en toegelicht, Kok, Kampen, 1984 ISBN 9024228646
Apokriefen van het Nieuwe Testament II; vertaald, ingeleid en toegelicht, Kok, Kampen, 1985 ISBN 9024228662
Jezus in de apocriefe evangeliën; Kok, Kampen, 1999 ISBN 9043500461
Apocriefe handelingen van de apostelen, Kok, Kampen, 2001 ISBN 9025952356
Apocriefe openbaringen, orakels en brieven, Ten Have, 2001 ISBN 9025952410