Spiegel ble født i en westfalsk familie som drev med dyreoppdrett. Etter den nasjonalsosialistiske maktovertagelsen flyktet familien til Brussel, og ble senere holdt skjult av en bondefamilie i Flandern. Søsteren ble arrestert under en razzia og døde senere i konsentrasjonsleir, faren overlevet opphold i leirene Buchenwald, Auschwitz og Dachau. I 1945 reiste familien tilbake til Warendorf, hvor Paul Spiegel gjorde ferdig skolen. Han har skildret disse opplevelsene i boken Wieder zu Hause?.
I 1958 begynte han i lære i avisen Allgemeine Jüdische Wochenzeitung i Düsseldorf. Han arbeidet i denne avisen frem til 1965, bl.a. som redaktør. På 1960-tallet arbeidet han også for forskjellige andre aviser, bl.a. Montrealer Nachrichten, Nieuw Israelietisch Weekblad (Amsterdam), Neue Welt (Wien), Jüdische Rundschau Maccabi (Basel), Der Mittag (Düsseldorf), Neue Rhein Zeitung (Düsseldorf) og Westfälische Rundschau (Dortmund). I 1973 og 1974 var han sjefredaktør for tidsskriftet Mode und Wohnen. Deretter ledet han i tolv år offentlighetsarbeidet til Rheinischer Sparkassen- und Giroverband (RSGV) i Düsseldorf. I 1986 grunnla han sammen med TV-programlederen Hans Rosenthal et kunstner- og medieagentur.
Paul Spiegel var fra 1967 medlem av menighetsrådet i den jødiske menigheten i Düsseldorf. I 1978 ble han styremedlem og fra 1984 til 2002 var han formann for menigheten. I 1989 ble han innvalgt i direktoriet i Zentralrat der Juden in Deutschland, og ledet fra 1989 til 2000 rådets Zentralwohlfahrtsstelle. Han ble medlem av kringkastingsrådet for Westdeutscher Rundfunk i 1991. I 1993 ble han visepresident i Zentralrat der Juden og i 1995 leder for foreningen av jødiske menigheter i Nordrhein-Westfalen. 9. januar2000 ble han valgt til etterfølger etter Ignatz Bubis som president for Zentralrat der Juden.
I hans presidentperiode ble det inngått en avtale med staten som gav de jødiske menighetene samme rettigheter som Den katolske kirke og de protestantiske kirkene.
Sosialdemokraten Spiegel ble i 2003 nevnt i spekulasjonene om hvem som skulle etterfølge Johannes Rau som Tysklands president, men avviste selv at han var aktuell som kandidat.
Han ble gift med Gisèle Spatz i 1964 og hadde to døtre. Spiegel døde om morgenen den 30. april 2006 i Düsseldorf, etter en tids sykdom etter å ha fått et hjerteinfarkt og en lungepunktering tidligere samme år.
