Paolo Scolari, fou cardenal de Palestina, va ser escollit papa el 20 de desembre de 1187 a la ciutat de Pisa a causa que a l'esmentada ciutat va morir el seu antecessor mentre preparava la conquesta de Jerusalem.
Immediatament, i aprofitant la bona acollida dels seus paisans romans, va començar a treballar per aconseguir el retorn del papat a Roma, ciutat de la qual els papes es van exiliar en 1153 en constituir-se Roma en municipi lliure sota el mandat d'Arnaldo de Brescia, arribant-se a un acord que permeté a Climent III tornar a Roma en 1188 i escollir el governador de la ciutat, a canvi del reconeixement del Senat Romà i de l'elecció pel poble dels seus magistrats.
Després d'aquest èxit, Climent III dirigeix la seva atenció a la reconquesta de Jerusalem mitjançant l'organització de la Tercera Croada. Per a això es va reconciliar amb l'emperador Frederic I aconseguint que es posés al capdavant d'un poderós exèrcit en què també participaran el rei anglès Ricard I Cor de Lleó i el francès Felip II August.
Tanmateix el conflicte amb l'emperador germànic no tardarà a revifar-se quan, a la mort en 1189 del vassall del papa Guillem II de Sicília; Enric VI que havia succeït al seu pare Frederic I, mort a Terra Santa, reclama el regne sicilià fent valer els drets de la seva esposa Constança.
El Papa, veient perillar la seva independència si Enric VI aconseguia el seu propòsit, donà suport a l'elecció com a rei de Tancred de Lecce, el que provoca l'entrada de l'emperador germànic a Itàlia al capdavant d'un gran exèrcit per forçar una entrevista amb el Papa i aconseguir el reconeixement de seus dret, el qual no va aconseguir a causa de la mort de Climent III el 27 de març de 1191.