Criss satte inn en annonse i østkystutgaven av musikkmagasinet Rolling Stone: «EXPD. Rock & roll drummer looking for orig. grp. doing soft & hard music. Peter, Brooklyn.» Gene Simmons og Paul Stanley så denne annonsen og ringte Criss og ba ham fortelle hvordan han så ut, hvorpå de bestemte tid for prøvespill, som ledet til at Criss ble medlem i bandet.
Offisielt forlot Criss bandet i 1980, men allerede før den tid hadde han mer eller mindre distansert seg fra bandet. På KISS-albumet Dynasty (1979) medvirket han kun på ett spor, «Dirty Livin'» (sang og slagverk), mens han på det etterfølgende albumet Unmasked (1980) var helt fraværende, til tross for at han var avbildet på omslaget.
Criss bestemte seg deretter for å bli soloartist, og hans første soloalbum Out Of Control ble lansert i 1980. Han gav ut to album til, men solokarrieren tok aldri helt av. Etter KISS' gjenforening i 1996 medvirket han på albumene Psycho Circus (1998) og Kiss Symphony: Alive IV (2003).
Den 24. juli 2007 gav Peter Criss ut sitt fjerde soloalbum, som hadde tittelen One For All. Albumet består primært av ballader med innslag av rhythm and blues og soul.
Criss' store idol er jazztrommeslageren Gene Krupa.
