W latach 1793–1798 roku Ross pracował dla Brytyjskiej Kompanii Wschodnioindyjskiej[2]. W 1799 roku powrócił do marynarki i służył jako midshipman na slupieHMS Weazel[2]. Następnie służył na statkach HMS Clyde i HMS Diligence[3]. W 1803 roku po wypowiedzeniu wojny Francji służył na HMS Grampus[3]. W 1805 roku otrzymał awans na porucznika[3]. Poważnie ranny w 1806 roku podczas abordażu na statek hiszpański – w 1809 roku otrzymał rentę z tytułu odniesionych obrażeń[4]. Od 1808 roku służył na HMS Victory – jednej z jednostek ochraniających brytyjskie statki handlowe na Morzu Bałtyckim[4]. Flota brytyjska była wspierana przez siły szwedzkie, które były osłabione – załogi szwedzkie rekrutowały się z biednych chłopów[5]. Posługujący się szwedzkim Ross został oddelegowany jako oficer łącznikowy do marynarki szwedzkiej[6]. W 1812 roku Ross został awansowany na stopień komandora i został dowódcą HMS Briseis[7]. W tym samym roku przyjął na statek jako first-class volunteer swojego bratanka Jamesa Clarka Rossa (1800–1862)[7].
Wyprawy arktyczne
Brytyjskie poszukiwania Przejścia Północno-Zachodniego
W 1817 roku brytyjski podróżnik William Scoresby (1789–1857) raportował, że wody wokół Grenlandii między 74°N a 80°N są wolne od lodu[8]. Wzbudziło to zainteresowanie Admiralicji i rozpoczęto poszukiwania Przejścia Północno-Zachodniego[8]. W 1818 roku wysłano dwie wyprawy, które zapoczątkowały 35 lat brytyjskich poszukiwań[8].
Kandydaturę Rossa na dowódcę „Isabelli” wysunął George Johnstone Hope (1767–1818)[9]. Wyprawa Rossa potwierdziła informacje Williama Baffina (1584–1622) o Zatoce Baffina i podjęła próbę dalszej przeprawy na północ[10]. Dotarła do Cieśniny Smitha, osiągając 76°N, gdzie dalszą przeprawę uniemożliwiła obecność lodu[10]. Następnie Ross skierował się na zachód, docierając do Cieśniny Lancastera[11]. Zawrócił zmylony mirażem gór blokującym dalsze przejście na zachód, za co spotkała go krytyka po powrocie do domu[10]. Podczas wyprawy Ross jako pierwszy Europejczyk odwiedził dom grenlandzkiego Inuita[12].
Po powrocie Ross przeszedł na emeryturę, lecz był skłonny poprowadzić kolejną wyprawę, jednak już nigdy nie powierzono mu takiego zadania[10]. Zainteresował się silnikami parowymi i frenologią[10].
Wyprawa Rossa (1829–1833)
W 1829 roku zamożny producent ginu Felix Booth (1780–1850) postanowił sfinansować prywatną wyprawę arktyczną w poszukiwaniu Przejścia Północno-Zachodniego[10]. Ekspedycję poprowadził John Ross wraz z bratankiem[10]. Wyprawa wyruszyła na statku „Victory”[10]. Odkryto Cieśninę Księcia Regenta i ląd po jej stronie zachodniej[10], który nazwano Boothia na cześć fundatora wyprawy[13]. Ross odkrył również zatokę na południe od Cieśniny Księcia Regenta, którą również nazwano Boothia[1][a]. Wyprawa przezimowała na południowym krańcu zatoki w miejscu, które Ross nazwał Lord Mayor Bay[10]. Europejczycy przetrwali dzięki pomocy Inuitów, którzy rozbili swój obóz zimowy w pobliżu Lord Mayor Bay[10]. Podczas pierwszego zimowania w 1831 roku bratanek Rossa – James Clark Ross (1800–1862) jako pierwszy ustalił położenie północnego bieguna magnetycznego[10]. Dopiero po trzech latach ekspedycji udało się osiągnąć Cieśninę Księcia Regenta[10]. Uczestnicy wyprawy zmuszeni byli porzucić „Victory” i przeprawili się na północny wschód[10]. Założyli obóz zimowy w miejscu, gdzie składowano zapasy ze statku Parry’ego[10]. Przy próbie dalszej przeprawy łodziami zostali zoczeni przez statek wielorybniczy – dawny statek Rossa „Isabellę” – który zabrał ich do Anglii[10]. Powrót zaginionych przez lata polarników i odkrycie północnego bieguna magnetycznego uczyniły Rossów sławnymi[10]. W 1834 roku John Ross otrzymał tytuł szlachecki[1]. Na mocy decyzji Parlamentu Ross otrzymał rentę, a Booth zwrot kosztów ekspedycji[10]. W latach 1839–1846 Ross pełnił urząd konsula w Sztokholmie[1].