Джон Херингтън започва службата си в USN през 1984 г. През март 1985 г. става военноморски пилот. Зачислен е в патрулираща ескадрила 31 (VP-31), базирана в Калифорния. Лети на самолет за борба с подводници P-3C Orion. През декември 1990 г. завършва школа за тест пилоти в Мериленд. По време на службата си има над 3800 полетни часа на 30 различни типа самолети.
Служба в НАСА
Джон Херингтън е избран за астронавт от НАСА на 1 май 1996 г., Астронавтска група №16. Взема участие в един космически полет. Има в актива си три космически разходки с обща продължителност 19 часа и 55 минути.