St. Johnstone FC regner offisielt stiftelsesåret sitt til 1884, da noen medlemmer av St. Johnstone Cricket Club begynte å spille fotball etter at cricketsesongen var over. Men nyere undersøkelser har vist at det offisielle stiftelsesmøtet til fotballklubben ble holdt først 24. februar1885, og klubbens første kamp ble spilt 7. mars samme år.[1] Navnet St. Johnstone kommer av Perths skytshelgenJohannes Døperen, på engelsk St. John. Perth er St. Johns by (på skotsk «St. John's toun»), og dermed ble navnet St. Johnstone.
Klubben tok i bruk Recreation Ground som sin hjemmebane i 1885. I 1911 ble de valgt inn i Scottish Football League (Division 2). St. Johnstone var ute av ligaen mellom 1915 og 1921, da Division 2 var innstilt under og etter første verdenskrig. Etter at divisjonen kom i gang igjen, gjorde klubben det bedre, og i 1924 rykket de for første gang opp i Division 1. I desember samme år flyttet klubben til Muirton Park.
Med unntak av to sesonger ble St. Johnstone værende i øverste divisjon fram til 2. verdenskrig brøt ut, med 5.-plass (av 20 lag) som beste plassering i 1933 og 1935. Da ligaen kom i gang igjen etter krigen, ble klubben plassert på nivå 2, og de ble værende på det nivået til 1960. Fra 1963 fulgte en ny stabil periode i øverste divisjon, med 3.-plass (av 18 lag) i 1971 og finale i ligacupen høsten 1969 (0-1 mot Celtic) som høydepunkter.
Fra 1976 fulgte en ny periode i lavere divisjoner. St. Johnstone rykket for første gang ned i Second Division (nivå 3) i 1985, men klubben kom tilbake og nådde øverste divisjon igjen i 1990. I mellomtiden hadde klubben flyttet til McDiarmid Park i 1989. Etter fire sesonger i Premier Division og nye tre sesonger i First Division, kom klubbens beste periode i nyere tid fra og med opprykket i 1997. St. Johnstone ble nummer 3 (av 10 lag) i Premier League i 1999, og nådde igjen ligacupfinalen høsten samme år (1-2 mot Rangers).
St. Johnstone er den ene av bare to klubber som har spilt i Scottish Football League som har bokstaven J i navnet, og den eneste klubben som fremdeles eksisterer. Den andre klubben var Johnstone FC, som spilte i Division 2 i 1912-1915 og 1921-1925, og i Division 3 i 1925-1926. De to klubbene spilte i samme divisjon til 1924. Det var ingen forbindelse mellom de to klubbene – Johnstone FC var fra byen Johnstone i Renfrewshire.