King werkt sinds 1991 bij de Bank of England. In juni 1998 werd hij hier assistent-gouverneur (Deputy Governor). In hetzelfde jaar werd hij lid van de invloedrijke financiële adviesgroep Group of Thirty. In juni 2003 volgde hij Edward George op als gouverneur van de Bank of England.
King streeft ernaar dat de inflatie in Groot-Brittannië op een laag niveau blijft, zo'n twee procent. In april 2008, toen de financiële wereld al getroffen was door de kredietcrisis, bekritiseerde hij de exorbitante bonuscultuur in de bankwereld op Wall Street en in de City of London. In datzelfde jaar weigerde hij een salarisverhoging die zijn inkomen naar zo'n 400.000 pond zou hebben getild.