Pekka Tarjanne est le fils de l'ambassadeur Päivö Tarjanne et de Kerttu Tarjanne, qui est la fille du ministre de l'Intérieur Heikki Ritavuori[4].
En 1955, il obtient son diplôme de fin d'études secondaires du lycée normal d'Helsinki.
Il étudie la physique à l'Université technologique d'Helsinki et obtient une maîtrise en ingénierie en 1960, et son doctorat en 1962[4].
En 1965, il est nommé professeur à l'université d'Oulu et en 1967 professeur de physique théorique à l'Université d'Helsinki. Il occupera le poste de professeur jusqu'en 1977.
De 1989 jusqu'en 1999, Pekka Tarjanne est secrétaire général de l'Union internationale des télécommunications à Genève.
Il est invité par Kofi Annan à diriger, pendant deux ans, le Groupe des Nations unies sur les technologies de l'information et le développement qui cherche à promouvoir l'utilisation des technologies dans les pays en développement.
Il présidera aussi le Comité du Prix du Millénaire[4].