Als langst dienende Opperrechter van de Verenigde Staten domineerde Marshall de rechtbank meer dan drie decennia en speelde hij een belangrijke rol in de ontwikkeling van het Amerikaans rechtssysteem. Het meest opmerkelijke hierbij is dat hij, met name in het beroemde arrest Marbury v. Madison, het principe vestigde dat de rechterlijke macht het toetsingsrecht over wetten moet uitoefenen. Zo konden wetten vernietigd worden wanneer ze de Amerikaanse Grondwet schenden. Daarmee hielp Marshall de rechterlijke macht in de Verenigde Staten verankeren als een onafhankelijke en invloedrijke tak van de staat. Daarnaast vaardigde het Hooggerechtshof onder Marshall enkele belangrijke beslissingen uit met betrekking tot het federalisme. Het raakte aan de machtsbalans tussen de federale overheid en de staten gedurende de beginjaren van de Amerikaanse republiek. Meer bepaald bevestigde hij herhaaldelijk de suprematie van de federale wetgeving over de wetten op het niveau van de staten. Verder stond hij ook achter een brede interpretatie van de zogenaamde opgesomde bevoegdheden (enumerated powers).
Sommige van zijn beslissingen hadden weinig bijval bij het brede publiek. Desondanks werkte Marshall aan de uitbouw van de derde tak van de federale overheid en versterkte hij het federale niveau in de naam van de Amerikaanse Grondwet. Hij staat tevens aan de basis van de ontplooiing van de Amerikaanse rechtsstaat.[2] Samen met Daniel Webster was Marshall de meest vooraanstaande Federalist op dat moment. Ze streefden naar een sterkere federale overheid binnen de Federalist Party. Ze stonden hier tegenover de JeffersoniaanseDemocratisch-Republikeinse Partij.[3]